Ce este Watermarking și Content Credentials (C2PA)?

Ce înseamnă Watermarking și Content Credentials (C2PA)

Watermarking-ul introduce în conținut un semnal invizibil pentru om, dar detectabil de un algoritm. Exemplu: SynthID, dezvoltat de Google DeepMind.

C2PA (Coalition for Content Provenance and Authenticity) este un standard deschis, fondat în februarie 2021 de Adobe, Arm, BBC, Intel, Microsoft și Truepic; Google și OpenAI au intrat ulterior în comitetul de conducere. Standardul atașează fișierului un manifest de proveniență (Content Credentials) semnat digital, nu criptat: oricine îl poate citi, iar o modificare a conținutului după semnare face validarea să eșueze.

Cum funcționează

Text: metoda propusă de Kirchenbauer et al. (2023) alege înaintea fiecărui token o listă „verde” pseudo-aleatorie de tokeni și îi favorizează ușor la eșantionare. Un detector care cunoaște regula numără tokenii verzi și aplică un test statistic, fără acces la model.

C2PA: manifestul se stochează în fișier în containere JUMBF (nu în câmpurile EXIF) și conține afirmații despre origine și editări, un hash al conținutului („hard binding”) și o semnătură bazată pe certificate X.509.

Un „soft binding” (watermark sau amprentă a conținutului) permite regăsirea manifestului într-un depozit dacă metadatele au fost șterse din fișier.

Pe înțelesul tuturor

Filigranul și firul de siguranță dintr-o bancnotă nu se văd la o privire rapidă, dar un aparat de verificare le găsește imediat.

Exemplu

OpenAI a anunțat că adaugă Content Credentials C2PA imaginilor generate cu DALL·E 3 în ChatGPT și în API. Un fișier se poate verifica pe verify.contentauthenticity.org sau local, cu c2patool imagine.jpg.

De reținut

• AI Act cere furnizorilor de sisteme generative marcarea ieșirilor într-un format citibil automat (art. 50 alin. (2)), fără să impună o tehnologie anume.
• Niciuna dintre metode nu e imposibil de ocolit. Metadatele se pot elimina, iar lucrarea Kirchenbauer et al. analizează explicit atacuri asupra watermark-ului, inclusiv prin parafrazare.

Nu confunda

• C2PA nu este un watermark, ci metadate semnate. SynthID este un watermark; cele două se pot combina prin soft binding.
• Un detector de „text scris de AI” fără watermark ghicește statistic; un watermark se verifică după o regulă cunoscută dinainte.

Termeni înrudiți

• Standardul C2PA și Content Credentials: Standardul deschis care atașează imaginilor, sunetului și video-urilor un istoric de proveniență semnat digital, inclusiv informații despre folosirea AI.
• Deepfake și marcarea conținutului sintetic: Conținut audio-video generat sau modificat cu AI care pare autentic, și obligațiile de marcare și dezvăluire din AI Act.
• EU AI Act – Regulamentul (UE) 2024/1689: Regulamentul UE care stabilește reguli pentru sistemele și modelele AI în funcție de risc, aplicat etapizat între 2025 și 2028.