Ce înseamnă Audit algoritmic
Un audit algoritmic este o evaluare sistematică a unui algoritm sau a unui sistem AI, făcută de o echipă internă separată sau de o firmă externă. Ca auditul financiar, are rolul de a confirma că lucrurile sunt cum declară proprietarul și de a semnala problemele.
Auditul poate privi acuratețea, bias-ul față de anumite grupuri, securitatea, protecția datelor, documentația și respectarea legilor (de exemplu GDPR, AI Act sau, pentru platformele foarte mari, Regulamentul privind serviciile digitale, DSA).
Cum funcționează
Există mai multe niveluri de acces. Într-un audit de tip cutie neagră, auditorul vede doar intrările și ieșirile: trimite date de test (de exemplu CV-uri identice, cu nume diferite) și compară rezultatele. Într-un audit cu acces complet, examinează și datele de antrenare, codul, documentația și procesele de decizie.
Pașii obișnuiți: definirea scopului și a criteriilor, colectarea documentației, testarea pe grupuri diferite, analiza riscurilor, un raport cu constatări și recomandări și, de preferat, o verificare ulterioară.
Pe înțelesul tuturor
Este ca inspecția tehnică periodică a mașinii: nu tu, ca proprietar, decizi dacă frânele sunt bune, ci cineva care le testează după o procedură standard.
Exemplu
Orașul New York a introdus, din 2023, obligația ca instrumentele automate folosite la angajare să treacă printr-un audit anual de bias, iar rezultatele să fie publicate. Un auditor compară, de exemplu, rata de selecție a candidaților pe gen și etnie și semnalează diferențele mari.
De reținut
- Auditul verifică, independent, ce face un sistem AI în realitate.
- Poate fi făcut din exterior (doar intrări și ieșiri) sau cu acces complet.
- Un audit este o fotografie la un moment dat; sistemele trebuie reverificate după schimbări.
Nu confunda
- Audit vs. red teaming: red teamingul caută creativ eșecuri; auditul evaluează sistematic conformitatea cu criterii stabilite dinainte.
Termeni înrudiți
- Bias algoritmic (prejudecăți): Erori sistematice prin care un sistem AI tratează mai rău anumite grupuri de oameni, de obicei moștenite din datele de antrenare.
- Echitate în AI: Principiul și setul de metode prin care un sistem AI trebuie să trateze corect oamenii, fără discriminare între grupuri.
- Guvernanța AI: Regulile, rolurile și procesele prin care o organizație sau un stat controlează cum se dezvoltă și se folosește AI.
- Explicabilitate (XAI): Capacitatea unui sistem AI de a arăta, pe înțelesul oamenilor, de ce a dat un anumit răspuns sau a luat o anumită decizie.
- Model card: Un document scurt care descrie un model AI: scopul, datele, performanța, limitele și riscurile cunoscute.
- Cutie neagră (black box): Un sistem AI ale cărui decizii nu pot fi urmărite ușor: vezi ce intră și ce iese, dar nu și de ce.