Format / Sintaxă: Piramida de Risc – clasificare în 4 nivele: Risc Inacceptabil, Risc Ridicat (High-Risk), Risc Limitat și Risc Minim
Explicație detaliată
Regulamentul împarte sistemele AI în patru trepte clare:
1. Risc Inacceptabil (Interzise): scor social guvernamental, manipulare subliminală, identificare biometrică în timp real în spațiul public.
2. Risc Ridicat (High-Risk): infrastructură critică, educație, trierea CV-urilor la angajare, credit scoring, justiție.
3. Risc Limitat: chatboți, deepfake-uri (obligații stricte de transparență).
4. Risc Minim: filtre de spam, jocuri video (fără cerințe speciale).
Analogie intuitivă
💡 Clasificarea medicamentelor și substanțelor chimice: de la ceaiuri de mușețel fără rețetă (risc minim), la antibiotice eliberate doar cu prescripție medicală (risc ridicat) și substanțe toxice letale strict interzise pe piață (risc inacceptabil).
Mecanism & Funcționare
- Sistemele High-Risk necesită evaluare de conformitate, audit pe datele de antrenare, jurnalizare completă a evenimentelor (logging) și supraveghere umană.
Exemple practice și aplicabilitate
- Un algoritm care sortează candidații la interviul de angajare este High-Risk și trebuie auditat pentru a nu discrimina.
Capcane frecvente & bune practici
Dacă sistemul tău este etichetat High-Risk, nu înseamnă că este interzis, ci că trebuie să respecte standarde de calitate similare echipamentelor medicale.
Noțiuni înrudite
eu-ai-act: Noțiune asociată din acest modul.bias-algoritmic: Noțiune asociată din acest modul.explicabilitate-xai: Noțiune asociată din acest modul.