Ce înseamnă Bias algoritmic (prejudecăți)
Bias-ul algoritmic (în română: prejudecată, distorsiune sau părtinire algoritmică) apare atunci când un sistem automat produce, în mod repetat, rezultate nedrepte pentru anumite grupuri: femei, persoane în vârstă, minorități, oameni din anumite zone sau care vorbesc o anumită limbă.
Nu este vorba de o „intenție” a calculatorului. Un model AI învață tipare din exemple, iar dacă exemplele reflectă inegalități din trecut sau sunt incomplete, modelul le preia și, uneori, le amplifică. Pentru că deciziile automate se iau la scară mare, o mică distorsiune poate afecta mii de oameni.
Cum funcționează
Sursele cele mai frecvente sunt: date nereprezentative (un sistem de recunoaștere facială antrenat mai ales pe fețe cu ten deschis greșește mai des la tenul închis), date istorice părtinitoare (dacă în trecut au fost angajați mai ales bărbați, modelul „învață” că bărbații sunt candidați mai buni) și variabile intermediare (codul poștal poate ține locul etniei sau al venitului, chiar dacă acestea au fost scoase din date).
Bias-ul poate apărea și la etichetare, când oamenii care marchează datele au propriile prejudecăți, sau la felul în care se măsoară succesul modelului.
Pe înțelesul tuturor
Seamănă cu un profesor nou care primește notele din anii trecuți și ajunge să creadă că elevii dintr-un anumit cartier „sunt mai slabi”, fără să știe că acolo nu existau manuale. Concluzia lui pare logică, dar pornește de la o nedreptate din trecut.
Exemplu
Un exemplu des citat este instrumentul experimental de recrutare al Amazon, abandonat în jurul anului 2017: învățase din CV-urile primite în zece ani, majoritatea de la bărbați, și ajunsese să depuncteze CV-urile care conțineau cuvântul „women’s” (de exemplu „căpitanul echipei feminine de șah”).
Generatoarele de imagini pot arăta și ele bias: cerute „un director general”, multe modele au desenat mult timp aproape numai bărbați.
De reținut
- Bias-ul vine de cele mai multe ori din date, nu din cod.
- Eliminarea unei coloane „sensibile” (gen, etnie) nu garantează că problema dispare.
- Se reduce prin date mai echilibrate, testare pe grupuri diferite și audit periodic.
Nu confunda
- Bias algoritmic vs. bias ca termen matematic: într-o rețea neuronală, „bias” înseamnă și un parametru numeric (termenul liber al unui neuron), fără legătură cu prejudecățile.
Termeni înrudiți
- Echitate în AI: Principiul și setul de metode prin care un sistem AI trebuie să trateze corect oamenii, fără discriminare între grupuri.
- Date de antrenare: Exemplele din care învață un model AI: texte, imagini, sunete sau tabele. Calitatea lor decide în mare măsură calitatea modelului.
- Audit algoritmic: Verificarea independentă a unui sistem AI pentru a afla dacă funcționează corect, echitabil, sigur și conform regulilor.
- Explicabilitate (XAI): Capacitatea unui sistem AI de a arăta, pe înțelesul oamenilor, de ce a dat un anumit răspuns sau a luat o anumită decizie.
- AI responsabilă: Un set de principii și practici pentru a dezvolta și folosi AI în mod etic, sigur, transparent și cu respect pentru oameni.