Ce înseamnă Echitate în AI
Echitatea în AI (în engleză fairness) este scopul de a construi sisteme care nu dezavantajează pe nedrept anumite persoane sau grupuri. Dacă bias-ul algoritmic este problema, echitatea este obiectivul și disciplina care încearcă să o rezolve.
Este un subiect atât tehnic, cât și social: matematica poate măsura diferențe între grupuri, dar ce înseamnă „corect” într-o anumită situație (credite, angajări, justiție) este o decizie a oamenilor, a legii și a societății.
Cum funcționează
Cercetătorii au propus mai multe definiții măsurabile. Paritatea demografică cere ca rezultatul pozitiv (de exemplu aprobarea unui credit) să aibă aceeași rată în toate grupurile. Egalitatea șanselor cere ca modelul să greșească la fel de des pentru toate grupurile. Calibrarea cere ca un scor de „80% risc” să însemne același lucru pentru oricine.
S-a demonstrat matematic că, în multe situații reale, aceste criterii nu pot fi îndeplinite toate simultan. De aceea, echipele trebuie să aleagă conștient ce criteriu contează mai mult și să justifice alegerea. Metodele practice includ reechilibrarea datelor, ajustarea pragurilor de decizie și testarea separată pe fiecare grup.
Pe înțelesul tuturor
Gândește-te la un concurs de alergare: poți face „corect” dând tuturor aceeași linie de start sau ținând cont că unii aleargă în pantofi grei. Ambele variante au logica lor, dar nu poți aplica perfect ambele în același timp.
Exemplu
O bancă din România folosește un model pentru scoring de credit. Echipa verifică dacă rata de respingere și rata de erori sunt similare pentru clienți din mediul rural și urban, pentru femei și bărbați, pentru tineri și vârstnici. Dacă descoperă diferențe mari fără o justificare legată de capacitatea reală de plată, ajustează modelul sau datele.
În Uniunea Europeană, sistemele AI pentru evaluarea bonității persoanelor sunt considerate de AI Act sisteme cu risc ridicat, tocmai din cauza riscului de discriminare.
De reținut
- Nu există o singură definiție matematică a echității; trebuie aleasă în funcție de context.
- Echitatea se verifică pe date reale, separat pentru fiecare grup afectat.
- Deciziile despre ce e „corect” rămân, în final, ale oamenilor.
Nu confunda
- Echitate vs. acuratețe: un model poate avea acuratețe mare per total și totuși să greșească mult mai des pentru un grup mic.
Termeni înrudiți
- Bias algoritmic (prejudecăți): Erori sistematice prin care un sistem AI tratează mai rău anumite grupuri de oameni, de obicei moștenite din datele de antrenare.
- AI responsabilă: Un set de principii și practici pentru a dezvolta și folosi AI în mod etic, sigur, transparent și cu respect pentru oameni.
- Audit algoritmic: Verificarea independentă a unui sistem AI pentru a afla dacă funcționează corect, echitabil, sigur și conform regulilor.
- AI Act (Regulamentul UE privind AI): Legea europeană care reglementează sistemele AI după nivelul de risc: unele practici sunt interzise, altele au obligații stricte.
- Acuratețe: Procentul de răspunsuri corecte ale unui model din totalul răspunsurilor; simplu de înțeles, dar înșelător când clasele sunt dezechilibrate.