Ce înseamnă Confidențialitatea datelor în AI
Confidențialitatea datelor în AI privește două momente. Primul: ce date s-au folosit la antrenarea modelului și dacă printre ele sunt informații personale. Al doilea: ce se întâmplă cu datele pe care le introducem noi când folosim un asistent AI (întrebări, documente, poze, înregistrări).
Riscurile sunt reale: datele introduse pot fi păstrate pe serverele furnizorului, pot fi citite de angajați la verificări sau, în funcție de setări, pot fi folosite la antrenarea versiunilor următoare. Modelele pot, rar, să „memoreze” și să reproducă fragmente din datele de antrenare.
Cum funcționează
Furnizorii oferă de obicei setări prin care poți refuza folosirea conversațiilor pentru antrenare și planuri pentru firme cu garanții contractuale suplimentare. Ca utilizator, verifică politica de confidențialitate și setările contului.
Tehnic, există metode care reduc riscul: anonimizarea datelor înainte de antrenare, confidențialitatea diferențială (adaugă „zgomot” statistic astfel încât să nu poți deduce date despre o persoană anume), învățarea federată (modelul se antrenează pe dispozitivele utilizatorilor, fără să adune datele într-un loc) și rularea modelelor local, pe propriul calculator sau server.
Pe înțelesul tuturor
Să lipești un document confidențial într-un chatbot public seamănă cu a-l lăsa la fotocopiatorul unei firme necunoscute: probabil nu se întâmplă nimic, dar nu mai controlezi unde ajunge copia.
Exemplu
În 2023, presa a relatat că angajați ai Samsung au introdus cod sursă intern într-un chatbot public, iar compania a restricționat apoi folosirea acestor instrumente. Multe firme din România au acum reguli similare: datele clienților, contractele și codul intern se folosesc doar în instrumente aprobate de firmă.
De reținut
- Nu introduce date personale, parole sau secrete de firmă în instrumente AI neaprobate.
- Verifică setările de antrenare și de păstrare a istoricului.
- Pentru date sensibile, modelele rulate local sau planurile pentru firme sunt mai potrivite.
Nu confunda
- Confidențialitate vs. securitate: securitatea protejează datele de atacatori; confidențialitatea privește și ce face furnizorul legitim cu ele.
Termeni înrudiți
- GDPR și AI: Cum se aplică regulile europene de protecție a datelor personale la antrenarea și folosirea sistemelor de inteligență artificială.
- Date de antrenare: Exemplele din care învață un model AI: texte, imagini, sunete sau tabele. Calitatea lor decide în mare măsură calitatea modelului.
- Edge AI (AI pe dispozitiv): Rularea modelelor AI direct pe telefon, laptop, cameră sau mașină, fără a trimite datele la un server din cloud.
- Ollama: Program open source care descarcă și rulează modele de limbaj direct pe calculatorul tău, cu o singură comandă.
- Supraveghere cu AI: Folosirea AI pentru a urmări automat oameni prin camere, recunoaștere facială, analiza comportamentului sau a datelor online.