Ce înseamnă Guvernanța AI
Guvernanța AI răspunde la întrebarea „cine decide și cum verificăm?”. Pe plan național și internațional înseamnă legi, autorități și acorduri (de exemplu AI Act în UE). În interiorul unei firme înseamnă politici, responsabilități și controale pentru toate sistemele AI folosite.
Fără guvernanță, o organizație nu știe adesea nici măcar ce instrumente AI folosesc angajații, cu ce date și pentru ce decizii. Acest fenomen se numește uneori „shadow AI” (AI din umbră).
Cum funcționează
Un sistem de guvernanță tipic include: un inventar al sistemelor AI, clasificarea lor după risc, reguli de utilizare (ce date pot fi introduse în ce instrumente), roluri clare (cine aprobă, cine monitorizează), documentare și audit periodic.
Există cadre de referință care ajută: standardul internațional ISO/IEC 42001 (sistem de management pentru AI, publicat în 2023), cadrul NIST AI RMF din SUA și principiile OCDE privind AI. Pentru firmele din UE, cerințele AI Act sunt un punct de plecare natural.
Pe înțelesul tuturor
Guvernanța AI este ca regulamentul și organigrama unui șantier: nu toarnă betonul, dar stabilește cine are voie să urce pe macara, ce verificări se fac zilnic și cine semnează procesul-verbal.
Exemplu
O companie de asigurări din România face un inventar și descoperă 14 instrumente AI folosite în firmă, dintre care trei primesc date ale clienților fără contract de prelucrare. Comitetul de guvernanță aprobă două instrumente oficiale, blochează restul, scrie o politică de o pagină pentru angajați și programează o revizuire la fiecare șase luni.
De reținut
- Guvernanța AI = cine decide, după ce reguli și cum se verifică.
- Începe cu un inventar al sistemelor AI folosite efectiv.
- Standarde ca ISO/IEC 42001 oferă o structură gata făcută.
Nu confunda
- Guvernanță vs. reglementare: reglementarea vine din exterior (legi); guvernanța este felul în care organizația se organizează intern, inclusiv pentru a respecta legile.
Termeni înrudiți
- AI responsabilă: Un set de principii și practici pentru a dezvolta și folosi AI în mod etic, sigur, transparent și cu respect pentru oameni.
- AI Act (Regulamentul UE privind AI): Legea europeană care reglementează sistemele AI după nivelul de risc: unele practici sunt interzise, altele au obligații stricte.
- Audit algoritmic: Verificarea independentă a unui sistem AI pentru a afla dacă funcționează corect, echitabil, sigur și conform regulilor.
- Model card: Un document scurt care descrie un model AI: scopul, datele, performanța, limitele și riscurile cunoscute.
- Siguranța AI (AI safety): Domeniul care încearcă să facă sistemele AI să funcționeze fără a provoca rău, accidental sau prin abuz, acum și pe viitor.