Ce înseamnă Cele 4 categorii de risc în EU AI Act
Comisia Europeană prezintă AI Act pe patru niveluri de risc. Textul legii nu folosește expresiile „risc limitat” sau „risc minim”: el definește practici interzise, sisteme cu risc ridicat și obligații de transparență, iar restul sistemelor nu au cerințe specifice. Modelele de uz general au un regim separat.
1. Risc inacceptabil (art. 5): manipularea prin tehnici subliminale sau înșelătoare care cauzează prejudicii semnificative; exploatarea vulnerabilităților legate de vârstă, dizabilitate sau situație socio-economică; scorul social, indiferent cine îl face; evaluarea riscului de a comite infracțiuni doar pe baza profilării; colectarea nețintită de imagini faciale de pe internet sau din CCTV; recunoașterea emoțiilor la locul de muncă și în școli; categorizarea biometrică pentru a deduce rasa, opiniile politice, religia sau orientarea sexuală; identificarea biometrică la distanță „în timp real”, în spații publice, de către poliție, cu excepții strict limitate. Din 2 decembrie 2026 se adaugă generarea de imagini intime fără consimțământ ale unei persoane identificabile și de materiale cu abuz sexual asupra copiilor.
2. Risc ridicat: componente de siguranță ale produselor din anexa I și domeniile din anexa III – biometrie, infrastructură critică, educație, ocuparea forței de muncă (inclusiv triajul CV-urilor), acces la servicii esențiale (inclusiv scoringul de credit pentru persoane fizice), aplicarea legii, migrație, justiție și procese democratice.
3. Transparență (art. 50): chatboți, conținut sintetic, deepfake-uri, recunoașterea emoțiilor.
4. Risc minim: de exemplu filtre de spam sau jocuri video, fără obligații specifice.
Cum funcționează
Sistemele cu risc ridicat trebuie să aibă: sistem de management al riscului (art. 9), guvernanța datelor, inclusiv examinarea posibilelor bias-uri (art. 10), documentație tehnică (art. 11), înregistrarea automată a evenimentelor (art. 12), informații pentru implementator (art. 13), supraveghere umană (art. 14), acuratețe, robustețe și securitate cibernetică (art. 15). Înainte de punerea pe piață trec prin evaluarea conformității (art. 43).
Un sistem din anexa III nu este considerat cu risc ridicat dacă nu influențează semnificativ rezultatul deciziei, de exemplu când execută doar o sarcină procedurală îngustă (art. 6 alin. (3)). Excepția nu se aplică dacă sistemul face profilarea persoanelor fizice.
După Regulamentul (UE) 2026/1744, cerințele pentru risc ridicat se aplică din 2 decembrie 2027 (anexa III) și din 2 august 2028 (anexa I).
Pe înțelesul tuturor
Clasificarea medicamentelor: unele se vând liber, altele doar cu rețetă și sub control, iar unele substanțe sunt interzise. Încadrarea depinde de risc, nu de cât de complicată e formula chimică.
Exemplu
Un program care sortează CV-urile candidaților intră în anexa III, punctul 4 lit. (a), deci este sistem cu risc ridicat. Un filtru de spam pentru e-mail nu are obligații specifice în AI Act.
De reținut
- Risc ridicat nu înseamnă interzis: sistemul poate fi folosit dacă îndeplinește cerințele.
- Încadrarea depinde de scopul declarat al sistemului, nu de tehnologie. Același model poate fi folosit într-un chatbot simplu și într-un sistem de recrutare cu risc ridicat.
- Obligațiile de transparență din art. 50 se pot aplica și unui sistem cu risc ridicat; nivelurile nu se exclud.
Nu confunda
- „Risc limitat” nu este un termen din textul legii; legea vorbește de obligații de transparență pentru anumite sisteme AI.
- Interdicția identificării biometrice în timp real nu este absolută: art. 5 alin. (1) lit. (h) permite poliției folosirea pentru obiective enumerate strict, cu autorizare prealabilă de la o autoritate judiciară sau administrativă independentă (art. 5 alin. (3)).
Termeni înrudiți
- EU AI Act – Regulamentul (UE) 2024/1689: Regulamentul UE care stabilește reguli pentru sistemele și modelele AI în funcție de risc, aplicat etapizat între 2025 și 2028.
- Clasificarea nivelurilor de risc din EU AI Act: Cele patru niveluri de risc din AI Act (interzis, ridicat, transparență, minim), regimul separat pentru modelele de uz general și termenele actualizate în 2026.
- Supravegherea umană (human-in-the-loop): Cerința ca sistemele AI cu risc ridicat să poată fi monitorizate, contrazise și oprite de oameni cu competența necesară.
- Bias algoritmic și discriminare: Când un sistem AI produce rezultate sistematic inechitabile pentru anumite grupuri, din cauza datelor, a modelului sau a felului în care e folosit.
- Deepfake și marcarea conținutului sintetic: Conținut audio-video generat sau modificat cu AI care pare autentic, și obligațiile de marcare și dezvăluire din AI Act.