Regulamentul (UE) 2024/1689 (AI Act) stabilește obligațiile în funcție de riscul utilizării, nu al tehnologiei. Comisia Europeană îl prezintă pe patru niveluri; modelele de uz general (GPAI) au un capitol separat.
1. Risc inacceptabil (art. 5): practici interzise, de exemplu manipularea care cauzează prejudicii semnificative, scorul social, colectarea nețintită de imagini faciale, recunoașterea emoțiilor la locul de muncă și în școli și identificarea biometrică la distanță în timp real, în spații publice, de către poliție (permisă doar pentru obiective enumerate strict, cu autorizare prealabilă).
2. Risc ridicat (art. 6, anexele I și III): de exemplu infrastructură critică, educație, recrutare, scoring de credit, aplicarea legii, justiție. Cer management al riscului, guvernanța datelor, documentație, jurnalizare, supraveghere umană și evaluarea conformității.
3. Transparență (art. 50): utilizatorul află că vorbește cu un sistem AI, conținutul sintetic este marcat într-un format citibil automat, deepfake-urile sunt dezvăluite.
4. Risc minim: de exemplu filtre de spam sau jocuri video, fără obligații specifice.
Amenzi maxime (art. 99): 35 de milioane EUR sau 7% din cifra de afaceri mondială anuală pentru practicile interzise; 15 milioane EUR sau 3% pentru celelalte obligații, inclusiv cele de transparență. Regulamentul (UE) 2026/1744, în vigoare din 27 iulie 2026, a amânat cerințele pentru risc ridicat și a adăugat două interdicții.
Concepte cheie și caracteristici
| Concept / Parametru | Descriere practică |
|---|---|
Risc inacceptabil (art. 5) |
Interzis din 2 februarie 2025. Interdicțiile noi (imagini intime fără consimțământul unei persoane identificabile, materiale cu abuz sexual asupra copiilor) se aplică din 2 decembrie 2026. |
Risc ridicat (art. 6) |
Anexa III din 2 decembrie 2027, anexa I din 2 august 2028. Sistemele din anexa III (cu excepția infrastructurii critice) se înregistrează în baza de date a UE înainte de punerea pe piață (art. 49). |
Transparență (art. 50) |
Aplicabil din 2 august 2026. Sistemele generative puse pe piață înainte de această dată au termen până la 2 decembrie 2026 pentru marcarea citibilă automat (art. 111 alin. (4)). |
Risc minim |
Fără obligații specifice în AI Act; furnizorii pot adopta voluntar coduri de conduită (art. 95). |
GPAI (art. 51–55) |
Documentație, politică de drepturi de autor, rezumat public al datelor de antrenare, din 2 august 2025. Modelele cu risc sistemic (prezumat peste 10^25 FLOP la antrenare) mai au evaluare cu testare adversarială, raportarea incidentelor grave și securitate cibernetică. |
Exemple practice și scenarii reale
Exemplul 1: Clasificarea unui asistent AI de recrutare
Ce obligații apar pentru un sistem care triază CV-urile, după textul AI Act modificat în 2026.
Proiect: aplicație care triază automat CV-urile și dă un scor de potrivire pentru interviu.
Clasificare: RISC RIDICAT (anexa III, punctul 4 lit. (a) - recrutare și selecție).
Termen: 2 decembrie 2027.
Furnizorul (cine dezvoltă aplicația):
1. Sistem de management al riscului (art. 9).
2. Date de antrenare examinate pentru posibile bias-uri (art. 10).
3. Documentație tehnică și jurnalizare automată (art. 11-12).
4. Măsuri de supraveghere umană (art. 14).
5. Evaluarea conformității și înregistrarea în baza de date UE (art. 43, art. 49).
Implementatorul (firma care o folosește, art. 26):
1. Folosire conform instrucțiunilor furnizorului.
2. Supraveghere de către persoane cu competența și autoritatea necesare.
3. Păstrarea jurnalelor cel puțin șase luni.
4. Informarea angajaților și a reprezentanților lor înainte de folosire la locul de muncă.Greșeli frecvente și capcane
- A crede că doar creatorii de modele răspund. Implementatorul are obligații proprii (art. 26) și devine furnizor dacă pune numele său pe un sistem cu risc ridicat, îl modifică substanțial sau îi schimbă scopul astfel încât devine cu risc ridicat (art. 25).
- Lansarea unui chatbot fără ca utilizatorul să afle că vorbește cu un sistem AI, când acest lucru nu este evident din context (art. 50 alin. (1)).
- Folosirea termenelor din 2024: cerințele pentru risc ridicat nu mai încep pe 2 august 2026, ci pe 2 decembrie 2027 (anexa III) și 2 august 2028 (anexa I).
Întrebări & Discuții: Clasificarea nivelurilor de risc din EU AI Act
Ai o întrebare despre Clasificarea nivelurilor de risc din EU AI Act sau ai descoperit un truc, prompt sau fragment de cod util? Distribuie-l cu ceilalți membri ai comunității!
Fii primul care pune o întrebare sau distribuie un fragment de cod / prompt!
Nu au fost adăugate încă întrebări sau resurse pentru această pagină. Dacă ai testat un prompt sau ai un snippet util, adaugă-l mai jos pentru comunitate.