Ce înseamnă Watermark pentru conținut AI
Un watermark (filigran, marcaj) pentru conținut AI este o informație adăugată de generator, care arată că un material a fost creat sau modificat cu inteligență artificială. Poate fi vizibil (un logo sau un text în colțul imaginii) sau invizibil (modificări imperceptibile pentru om, dar detectabile de un program).
Scopul este transparența: să știi când o fotografie, o voce sau un video nu sunt reale. AI Act cere furnizorilor de sisteme generative să marcheze rezultatele într-un format citibil automat și cere ca deepfake-urile să fie semnalate.
Cum funcționează
La imagini și sunet, marcajul invizibil se ascunde în pixeli sau în frecvențe, în așa fel încât să reziste la compresie, decupare sau schimbarea culorilor. Un exemplu este SynthID, dezvoltat de Google DeepMind. La text, modelul poate alege cuvintele după un tipar statistic secret, pe care doar un detector care cunoaște cheia îl poate recunoaște.
O abordare complementară este proveniența: standardul C2PA („Content Credentials”) atașează fișierului metadate semnate criptografic despre cine l-a creat, cu ce instrument și ce modificări a suferit. Problema: metadatele pot fi șterse ușor, iar marcajele din text slăbesc când textul este parafrazat sau tradus.
Pe înțelesul tuturor
E ca filigranul de pe bancnote: la lumină normală nu-l observi, dar cine știe unde să se uite îl găsește. Spre deosebire de bancnote, un falsificator hotărât poate încerca să-l șteargă.
Exemplu
O redacție din România primește o fotografie „de la un incendiu” trimisă de un cititor. Înainte de publicare, verifică metadatele C2PA și trece imaginea printr-un detector de marcaje. Dacă găsește semnul unui generator AI, nu o publică drept fotografie reală.
De reținut
- Marcajele pot fi vizibile sau invizibile; cele invizibile se verifică automat.
- Niciun marcaj actual nu este imposibil de eliminat.
- Lipsa unui watermark nu dovedește că un conținut este autentic.
Nu confunda
- Watermark vs. detector AI: watermark-ul este pus intenționat de generator și apoi căutat; un detector încearcă să ghicească, fără marcaj, dacă un conținut pare generat.
Termeni înrudiți
- Detector de text AI: Program care estimează dacă un text a fost scris de un om sau generat de un model de limbaj; rezultatele lui nu sunt sigure.
- Deepfake: Imagine, video sau înregistrare audio falsă, creată cu AI, în care o persoană pare să spună sau să facă ceva ce nu a făcut.
- Dezinformare generată cu AI: Informații false create sau răspândite cu ajutorul AI: articole, imagini, voci și video-uri false, produse rapid și în volum mare.
- AI Act (Regulamentul UE privind AI): Legea europeană care reglementează sistemele AI după nivelul de risc: unele practici sunt interzise, altele au obligații stricte.
- AI generativă: AI care creează conținut nou (text, imagini, sunet, video sau cod) pornind de la o cerere scrisă în limbaj obișnuit.