dexblog.ro
Acces rapid: Învață AI Învață Programare Specificații Dispozitive Comparații
ETICĂ Toți termenii

Ce este Watermarking și Content Credentials (C2PA)?

Securitate Tehnică și Impact Societal Nivel: mediu

Cele două metode prin care conținutul generat de AI poate fi recunoscut: semnalul invizibil din conținut și metadatele de proveniență semnate.

Denumire completă

Watermarking – semnal ascuns în conținut, detectabil algoritmic; C2PA – metadate de proveniență semnate digital

Ce înseamnă Watermarking și Content Credentials (C2PA)

Watermarking-ul introduce în conținut un semnal invizibil pentru om, dar detectabil de un algoritm. Exemplu: SynthID, dezvoltat de Google DeepMind.

C2PA (Coalition for Content Provenance and Authenticity) este un standard deschis, fondat în februarie 2021 de Adobe, Arm, BBC, Intel, Microsoft și Truepic; Google și OpenAI au intrat ulterior în comitetul de conducere. Standardul atașează fișierului un manifest de proveniență (Content Credentials) semnat digital, nu criptat: oricine îl poate citi, iar o modificare a conținutului după semnare face validarea să eșueze.

Cum funcționează

Text: metoda propusă de Kirchenbauer et al. (2023) alege înaintea fiecărui token o listă „verde” pseudo-aleatorie de tokeni și îi favorizează ușor la eșantionare. Un detector care cunoaște regula numără tokenii verzi și aplică un test statistic, fără acces la model.

C2PA: manifestul se stochează în fișier în containere JUMBF (nu în câmpurile EXIF) și conține afirmații despre origine și editări, un hash al conținutului („hard binding”) și o semnătură bazată pe certificate X.509.

Un „soft binding” (watermark sau amprentă a conținutului) permite regăsirea manifestului într-un depozit dacă metadatele au fost șterse din fișier.

Pe înțelesul tuturor

Filigranul și firul de siguranță dintr-o bancnotă nu se văd la o privire rapidă, dar un aparat de verificare le găsește imediat.

Exemplu

OpenAI a anunțat că adaugă Content Credentials C2PA imaginilor generate cu DALL·E 3 în ChatGPT și în API. Un fișier se poate verifica pe verify.contentauthenticity.org sau local, cu c2patool imagine.jpg.

De reținut

  • AI Act cere furnizorilor de sisteme generative marcarea ieșirilor într-un format citibil automat (art. 50 alin. (2)), fără să impună o tehnologie anume.
  • Niciuna dintre metode nu e imposibil de ocolit. Metadatele se pot elimina, iar lucrarea Kirchenbauer et al. analizează explicit atacuri asupra watermark-ului, inclusiv prin parafrazare.

Nu confunda

  • C2PA nu este un watermark, ci metadate semnate. SynthID este un watermark; cele două se pot combina prin soft binding.
  • Un detector de „text scris de AI” fără watermark ghicește statistic; un watermark se verifică după o regulă cunoscută dinainte.

Termeni înrudiți