Ce înseamnă Confidențialitatea datelor și GDPR în AI
Modelele de limbaj pot memora fragmente din datele de antrenare. Carlini et al. (2020) au extras din GPT-2, doar prin interogări, sute de secvențe copiate textual din date, inclusiv nume, numere de telefon și adrese de e-mail. OWASP tratează riscul ca „Sensitive Information Disclosure” (LLM02:2025).
GDPR se aplică oricărei prelucrări de date personale, inclusiv prin AI: ai nevoie de un temei legal (art. 6), de minimizarea datelor (art. 5 alin. (1) lit. (c)), de un contract cu furnizorul care prelucrează datele în numele tău (art. 28) și de respectarea regulilor pentru transferuri în afara SEE (capitolul V). Persoanele au, printre altele, dreptul la ștergere („dreptul de a fi uitat”, art. 17).
Cum funcționează
Pseudonimizare sau mascare înainte de trimitere: identificatori ca CNP-ul, e-mailul sau telefonul se înlocuiesc cu marcaje. Microsoft Presidio este o bibliotecă open-source care detectează și anonimizează astfel de date.
Verificarea politicii furnizorului. De exemplu, documentația OpenAI spune că datele trimise prin API nu sunt folosite la antrenarea modelelor decât dacă clientul optează explicit; jurnalele de monitorizare a abuzurilor se păstrează până la 30 de zile, iar Zero Data Retention este disponibilă doar cu aprobarea prealabilă a OpenAI.
Datele privind sănătatea sunt o categorie specială (art. 9 GDPR) și au reguli mai stricte.
Pe înțelesul tuturor
O scrisoare cu date bancare: trimisă prin curier, cu contract și confirmare de primire, știi cine răspunde de ea. Lăsată pe masa unei cafenele, nu mai controlezi cine o citește.
Exemplu
Un spital care vrea să rezume fișe medicale cu un LLM are nevoie de o condiție valabilă pentru prelucrarea datelor de sănătate (art. 9), de un contract de prelucrare cu furnizorul (art. 28) și, de regulă, de o evaluare a impactului asupra protecției datelor (art. 35). Copierea fișelor într-un cont personal de chatbot nu îndeplinește aceste condiții.
De reținut
- „Nu folosim datele la antrenare” nu înseamnă „nu păstrăm datele”: antrenarea și păstrarea sunt reguli diferite.
- Datele pseudonimizate rămân date personale; doar datele cu adevărat anonime ies din sfera GDPR (considerentul 26).
Nu confunda
- Condițiile diferă între produsele aceluiași furnizor (aplicație de consum, API, planuri pentru firme). Verifică documentația exactă a produsului folosit.
- Ștergerea unei înregistrări dintr-o bază de date vs. dintr-un model deja antrenat: a doua nu se face prin simpla ștergere a fișierului sursă.
Termeni înrudiți
- Riscul „Shadow AI” în companii: Angajații folosesc unelte AI din conturi personale, iar datele firmei ajung la servicii fără contract, control sau evidență.
- EU AI Act – Regulamentul (UE) 2024/1689: Regulamentul UE care stabilește reguli pentru sistemele și modelele AI în funcție de risc, aplicat etapizat între 2025 și 2028.
- Supravegherea umană (human-in-the-loop): Cerința ca sistemele AI cu risc ridicat să poată fi monitorizate, contrazise și oprite de oameni cu competența necesară.
- Prompt injection indirect prin fișiere și web: Instrucțiuni ascunse în documente, pagini web sau e-mailuri, pe care modelul le citește și le execută ca și cum ar veni de la utilizator.