Ce înseamnă Deepfake și marcarea conținutului sintetic
AI Act definește deepfake-ul ca imagine, conținut audio sau video generat ori manipulat de AI, care seamănă cu persoane, obiecte, locuri, entități sau evenimente existente și i-ar părea fals unei persoane că este autentic sau veridic (art. 3 pct. 60).
Obligațiile se aplică din 2 august 2026 (art. 50): furnizorii sistemelor care generează audio, imagini, video sau text sintetic marchează ieșirile într-un format citibil automat, detectabil ca generat artificial (alin. (2)); cei care folosesc un sistem pentru a crea un deepfake trebuie să dezvăluie că acesta a fost generat sau manipulat artificial (alin. (4)). La operele evident artistice, satirice sau de ficțiune, dezvăluirea se face într-un mod care nu împiedică prezentarea operei.
Sistemele generative puse pe piață înainte de 2 august 2026 au termen până la 2 decembrie 2026 pentru marcarea din alin. (2) (art. 111 alin. (4), introdus prin Regulamentul (UE) 2026/1744).
Cum funcționează
Clonare vocală: modelul VALL-E (Microsoft, 2023) a sintetizat vorbire cu vocea unei persoane pe baza unei înregistrări de 3 secunde.
Înlocuirea feței (face swap) și sincronizarea mișcării buzelor cu o pistă audio nouă.
Textul generat și publicat pentru a informa publicul despre subiecte de interes public trebuie și el dezvăluit, cu excepția cazului în care a trecut prin revizuire umană sau control editorial și cineva își asumă responsabilitatea editorială (art. 50 alin. (4)).
Pe înțelesul tuturor
Bancnotele de recuzită din filme poartă mențiunea „specimen”. Pot apărea pe ecran, dar nimeni nu ar trebui să le confunde cu bani reali.
Exemplu
Frauda în care vocea unui director este clonată la telefon pentru a cere un transfer urgent. Măsura practică: orice cerere de plată primită la telefon sau pe video se confirmă pe un canal independent, stabilit dinainte.
De reținut
- Din 2 decembrie 2026, AI Act interzice și sistemele care generează imagini, video sau audio intime ori sexual explicite cu o persoană identificabilă fără consimțământul ei explicit, precum și materialele cu abuz sexual asupra copiilor (art. 5 alin. (1) lit. (ba) și (bb), adăugate prin Regulamentul (UE) 2026/1744).
- Încălcarea obligațiilor de transparență din art. 50 se sancționează cu până la 15 milioane EUR sau 3% din cifra de afaceri (art. 99 alin. (4)). Pragul de 35 de milioane EUR sau 7% este pentru practicile interzise din art. 5.
Nu confunda
- Marcarea citibilă automat (watermark, metadate) vs. dezvăluirea vizibilă pentru public: alin. (2) o cere pe prima de la furnizorul sistemului, alin. (4) o cere pe a doua de la cel care folosește sistemul pentru deepfake.
- Nu orice editare cu AI este deepfake. Marcarea nu se aplică funcțiilor de asistență pentru editarea standard care nu modifică substanțial datele de intrare (art. 50 alin. (2)).
Termeni înrudiți
- Watermarking și Content Credentials (C2PA): Cele două metode prin care conținutul generat de AI poate fi recunoscut: semnalul invizibil din conținut și metadatele de proveniență semnate.
- Standardul C2PA și Content Credentials: Standardul deschis care atașează imaginilor, sunetului și video-urilor un istoric de proveniență semnat digital, inclusiv informații despre folosirea AI.
- EU AI Act – Regulamentul (UE) 2024/1689: Regulamentul UE care stabilește reguli pentru sistemele și modelele AI în funcție de risc, aplicat etapizat între 2025 și 2028.
- Răspunderea legală pentru halucinații: Ce se întâmplă juridic când un chatbot sau un asistent AI inventează informații: cazuri din practică și regulile UE relevante.