Ce înseamnă Explicabilitate (XAI)
Explicabilitatea înseamnă că putem înțelege motivele din spatele unei decizii automate. Domeniul care dezvoltă astfel de metode se numește XAI (Explainable Artificial Intelligence).
Este importantă atunci când decizia afectează oameni: un credit refuzat, un diagnostic propus, o tranzacție blocată. Persoana afectată, medicul sau inspectorul trebuie să poată afla ce a cântărit cel mai mult, pentru a verifica, a contesta sau a corecta.
Cum funcționează
Unele modele sunt explicabile de la sine: un arbore de decizie mic poate fi citit ca o listă de reguli. Modelele mari, precum rețelele neuronale, nu sunt, așa că se folosesc metode aplicate după antrenare.
Metode cunoscute: SHAP și LIME estimează cât a contribuit fiecare factor (venit, vechime, datorii) la un rezultat; hărțile de evidențiere (saliency maps) colorează zonele dintr-o imagine pe care modelul le-a „privit”; explicațiile contrafactuale spun ce ar fi trebuit să fie diferit („creditul ar fi fost aprobat dacă venitul era cu 500 de lei mai mare”). La modelele de limbaj, cercetarea de interpretabilitate încearcă să afle ce concepte sunt reprezentate în interiorul rețelei.
Pe înțelesul tuturor
Un profesor bun nu îți dă doar nota, ci îți arată și unde ai pierdut puncte. Explicabilitatea cere același lucru de la un algoritm.
Exemplu
Un medic folosește un program AI care semnalează posibile fracturi pe radiografii. Pe lângă verdict, programul evidențiază zona din imagine care a declanșat alerta. Medicul vede imediat dacă alerta privește osul sau doar o etichetă scrisă pe film și decide în cunoștință de cauză.
De reținut
- Explicabilitatea ajută la detectarea erorilor și a bias-ului.
- Explicațiile aproximative (SHAP, LIME) pot fi utile, dar nu sunt garantat exacte.
- GDPR și AI Act cer, în anumite situații, informații clare despre deciziile automate.
Nu confunda
- Explicabilitate vs. transparență: transparența înseamnă să spui că folosești AI și cum e construit sistemul; explicabilitatea înseamnă să explici o decizie anume.
- Când un chatbot își „explică” răspunsul, explicația este și ea un text generat și nu reflectă neapărat calculul real din model.
Termeni înrudiți
- Cutie neagră (black box): Un sistem AI ale cărui decizii nu pot fi urmărite ușor: vezi ce intră și ce iese, dar nu și de ce.
- Bias algoritmic (prejudecăți): Erori sistematice prin care un sistem AI tratează mai rău anumite grupuri de oameni, de obicei moștenite din datele de antrenare.
- Arbore de decizie: Model care ia decizii printr-o succesiune de întrebări simple de tip da/nu, organizate ca ramurile unui copac.
- GDPR și AI: Cum se aplică regulile europene de protecție a datelor personale la antrenarea și folosirea sistemelor de inteligență artificială.
- AI responsabilă: Un set de principii și practici pentru a dezvolta și folosi AI în mod etic, sigur, transparent și cu respect pentru oameni.