Ce înseamnă AI responsabilă
AI responsabilă (Responsible AI) este un termen-umbrelă pentru felul în care organizațiile încearcă să folosească inteligența artificială fără să facă rău oamenilor sau societății. Nu este o tehnologie, ci un mod de lucru.
Principiile apar, cu mici variații, în documentele OCDE, UNESCO, ale Uniunii Europene și ale marilor companii: echitate, transparență, explicabilitate, confidențialitate, siguranță și robustețe, responsabilitate (cineva răspunde pentru decizii) și supraveghere umană.
Cum funcționează
În practică, principiile se transformă în pași concreți: evaluarea riscurilor înainte de un proiect, verificarea datelor pentru bias, documentarea modelului (de exemplu printr-un model card), testare și red teaming, informarea utilizatorilor că interacționează cu AI, un canal prin care oamenii pot contesta deciziile și monitorizarea după lansare.
Multe organizații au comitete de etică AI sau politici interne care spun ce instrumente pot folosi angajații și cu ce date.
Pe înțelesul tuturor
Este ca diferența dintre a avea permis de conducere și a fi un șofer responsabil: legea îți dă voie să conduci, dar responsabilitatea înseamnă să ții cont de pietoni, de vreme și de oboseală, chiar când nimeni nu te verifică.
Exemplu
Un spital privat din România vrea să folosească AI pentru programări și triaj. Înainte de lansare, stabilește că deciziile medicale rămân la medici, informează pacienții că vorbesc cu un asistent automat, verifică dacă sistemul funcționează la fel de bine pentru vârstnici, nu trimite date medicale în servicii neaprobate și desemnează o persoană responsabilă de sistem.
De reținut
- AI responsabilă înseamnă principii transformate în procese concrete.
- Principiile de bază: echitate, transparență, siguranță, confidențialitate, responsabilitate.
- Fără măsuri verificabile, termenul riscă să rămână doar un slogan.
Nu confunda
- AI responsabilă vs. guvernanța AI: AI responsabilă spune ce valori urmărești; guvernanța stabilește cine decide, după ce reguli și cum se verifică.
Termeni înrudiți
- Guvernanța AI: Regulile, rolurile și procesele prin care o organizație sau un stat controlează cum se dezvoltă și se folosește AI.
- Echitate în AI: Principiul și setul de metode prin care un sistem AI trebuie să trateze corect oamenii, fără discriminare între grupuri.
- Explicabilitate (XAI): Capacitatea unui sistem AI de a arăta, pe înțelesul oamenilor, de ce a dat un anumit răspuns sau a luat o anumită decizie.
- Model card: Un document scurt care descrie un model AI: scopul, datele, performanța, limitele și riscurile cunoscute.
- Human in the loop: Un mod de a construi sisteme AI în care un om verifică, aprobă sau corectează deciziile importante înainte să aibă efect.
- AI washing: Practica de a prezenta un produs sau o firmă ca folosind AI mai mult sau mai bine decât în realitate, pentru a atrage clienți sau investitori.