Ce înseamnă Deepfake
Un deepfake este un conținut contrafăcut cu ajutorul inteligenței artificiale: o față înlocuită într-un video, buze sincronizate cu un discurs inventat sau o voce clonată care rostește fraze pe care persoana reală nu le-a spus niciodată. Termenul combină „deep learning” cu „fake” și a apărut în 2017, după numele unui utilizator de pe Reddit care publica astfel de clipuri.
Deepfake-urile pot fi folosite legitim, în filme, satiră clar marcată sau dublaj. Problemele apar când sunt folosite pentru fraudă, dezinformare, hărțuire sau imagini intime fără consimțământ. Regulamentul european privind AI cere ca un deepfake să fie marcat clar ca fiind generat sau modificat artificial.
Cum funcționează
Pentru înlocuirea feței, un model învață din multe imagini cu două persoane cum arată fiecare din toate unghiurile, apoi „pictează” fața unei persoane peste mișcările celeilalte, cadru cu cadru. Pentru voce, un model de clonare a vocii învață timbrul din câteva înregistrări. Uneltele moderne au redus mult cantitatea de material necesar.
Pe înțelesul tuturor
Un deepfake este o mască digitală foarte bună: cineva vorbește și se mișcă, dar spectatorul vede chipul și aude vocea altcuiva.
Exemplu
În România au circulat pe rețelele sociale reclame false în care figuri publice cunoscute păreau să recomande platforme de investiții „garantate”. Videoclipurile erau deepfake-uri, iar scopul era atragerea victimelor spre fraude financiare. Semnalele de alarmă: promisiuni de câștig rapid, mișcarea buzelor ușor nesincronizată, voce prea monotonă, iar clipul nu apare pe niciun canal oficial al persoanei.
De reținut
- Nu te baza doar pe ochi: verifică sursa, caută declarația pe canalele oficiale și în presa de încredere.
- Indicii posibile: clipit nefiresc, margini tremurate ale feței, lumină inconsecventă, sunet care nu se potrivește cu încăperea.
- Detectoarele automate ajută, dar nu sunt infailibile.
Nu confunda
- Deepfake vs. editare clasică: un montaj sau un filtru obișnuit nu este deepfake; termenul se referă la falsuri realiste generate cu modele de deep learning.
Termeni înrudiți
- Clonarea vocii: Folosirea AI pentru a imita vocea unei persoane anume, din câteva înregistrări, astfel încât să rostească orice text.
- GAN (rețele generative adversariale): Metodă de generare în care două rețele concurează: una creează falsuri, cealaltă încearcă să le deosebească de date reale.
- Dezinformare generată cu AI: Informații false create sau răspândite cu ajutorul AI: articole, imagini, voci și video-uri false, produse rapid și în volum mare.
- Watermark pentru conținut AI: Un semn vizibil sau ascuns adăugat în textele, imaginile, sunetele sau video-urile generate de AI, ca să poată fi recunoscute ulterior.
- Text-to-video: Modele AI care creează clipuri video noi pornind de la o descriere scrisă sau de la o imagine.
- AI Act (Regulamentul UE privind AI): Legea europeană care reglementează sistemele AI după nivelul de risc: unele practici sunt interzise, altele au obligații stricte.