Ce înseamnă Supravegherea umană (human-in-the-loop)
Art. 14 din AI Act cere ca sistemele cu risc ridicat să fie proiectate, inclusiv prin interfețe potrivite, astfel încât să poată fi supravegheate efectiv de persoane fizice cât timp sunt folosite. Măsurile sunt stabilite de furnizor și sunt fie integrate în sistem, fie aplicate de implementator (alin. (3)).
Implementatorul atribuie supravegherea unor persoane cu competența, pregătirea și autoritatea necesare (art. 26 alin. (2)). Separat, GDPR dă persoanei dreptul de a nu fi supusă unei decizii bazate exclusiv pe prelucrare automată care produce efecte juridice sau o afectează similar în mod semnificativ, cu excepțiile din art. 22 alin. (2).
Cum funcționează
Persoana care supraveghează trebuie să poată (art. 14 alin. (4)): să înțeleagă capacitățile și limitele sistemului și să-i monitorizeze funcționarea; să rămână conștientă de tendința de a se baza excesiv pe rezultat (automation bias); să interpreteze corect rezultatul; să decidă să nu folosească sistemul sau să ignore, să anuleze ori să inverseze rezultatul; să intervină sau să oprească sistemul printr-un buton „stop” sau o procedură similară care îl aduce într-o stare sigură.
La identificarea biometrică la distanță (anexa III, punctul 1 lit. (a)), nicio acțiune nu se ia pe baza identificării decât dacă a fost verificată și confirmată separat de cel puțin două persoane cu competența necesară, cu excepțiile din art. 14 alin. (5).
Cerințele se aplică sistemelor din anexa III din 2 decembrie 2027 și celor din anexa I din 2 august 2028 (Regulamentul (UE) 2026/1744).
Pe înțelesul tuturor
Pilotul automat al unui avion zboară o mare parte din traseu, dar piloții urmăresc instrumentele și pot prelua comanda oricând. Nu stau în cabină doar ca să semneze jurnalul de zbor.
Exemplu
Un program de triere a CV-urilor propune o listă scurtă. Recrutorul vede criteriile, poate adăuga sau scoate candidați și poate opri folosirea sistemului dacă observă erori; respingerile nu se trimit automat.
De reținut
- Un om care doar apasă „aprobă”, fără timp, informații sau autoritate, nu asigură supravegherea efectivă cerută de art. 14.
- Expresia „human-in-the-loop” nu apare în AI Act; legea vorbește de „supraveghere umană” (human oversight). Măsurile trebuie să fie proporționale cu riscurile, nivelul de autonomie și contextul (art. 14 alin. (3)).
Nu confunda
- Ghidurile de etică pentru o AI de încredere ale grupului de experți al Comisiei (2019) disting human-in-the-loop (omul intervine în fiecare ciclu de decizie), human-on-the-loop (omul monitorizează și poate interveni) și human-in-command (omul decide când și cum se folosește sistemul).
Termeni înrudiți
- Cele 4 categorii de risc în EU AI Act: Cum împarte AI Act sistemele AI după risc: practici interzise, risc ridicat, obligații de transparență și risc minim.
- Explicabilitatea deciziilor AI (XAI): Metodele tehnice și drepturile legale prin care o decizie luată cu ajutorul AI poate fi explicată persoanei afectate.
- EU AI Act – Regulamentul (UE) 2024/1689: Regulamentul UE care stabilește reguli pentru sistemele și modelele AI în funcție de risc, aplicat etapizat între 2025 și 2028.
- Răspunderea legală pentru halucinații: Ce se întâmplă juridic când un chatbot sau un asistent AI inventează informații: cazuri din practică și regulile UE relevante.