Ce înseamnă Dezinformare generată cu AI
Dezinformarea generată cu AI înseamnă conținut fals, creat intenționat pentru a induce în eroare, la care inteligența artificială ajută: texte de știri inventate, comentarii scrise automat de conturi false, fotografii fabricate, clonarea vocii unor persoane reale sau video-uri deepfake.
Dezinformarea exista și înainte de AI. Diferența este de cost și scară: acum un singur om poate produce în câteva minute sute de variante credibile ale aceluiași mesaj, în multe limbi, adaptate pe categorii de public.
Cum funcționează
O campanie tipică combină mai multe instrumente: un model de limbaj scrie postări și comentarii, un generator de imagini sau video creează „dovezi”, un instrument de clonare a vocii imită o persoană cunoscută, iar rețele de conturi automate (boți) răspândesc conținutul pe rețelele sociale, unde algoritmii de recomandare îl pot amplifica.
Se folosește și pentru fraude: videoclipuri sau apeluri false în care o persoană publică „recomandă” o investiție sau o rudă „cere bani urgent”.
Pe înțelesul tuturor
Dacă înainte un falsificator trebuia să scrie fiecare scrisoare de mână, acum are o tipografie automată care imită orice scris. Falsurile nu sunt neapărat mai bune, dar sunt mult mai multe.
Exemplu
În România au circulat pe rețelele sociale videoclipuri deepfake în care guvernatorul BNR, oameni de afaceri sau vedete păreau să recomande platforme de investiții „garantate”. Banca Națională a României și alte instituții au avertizat public că acestea sunt false și au ca scop fraude.
Cum te protejezi: verifică sursa originală, caută aceeași știre la publicații de încredere, fii atent la detalii nenaturale (mâini, sincronizarea buzelor, voce plată) și nu trimite bani pe baza unui singur mesaj sau apel.
De reținut
- AI face dezinformarea mai ieftină, mai rapidă și mai personalizată.
- Un conținut emoțional și urgent este un semnal de alarmă.
- Verificarea surselor rămâne cea mai bună apărare.
Nu confunda
- Dezinformare vs. halucinație AI: dezinformarea e creată intenționat de oameni; o halucinație este o greșeală involuntară a modelului.
- Dezinformare vs. misinformare: misinformarea este o informație falsă răspândită fără intenția de a înșela.
Termeni înrudiți
- Deepfake: Imagine, video sau înregistrare audio falsă, creată cu AI, în care o persoană pare să spună sau să facă ceva ce nu a făcut.
- Clonarea vocii: Folosirea AI pentru a imita vocea unei persoane anume, din câteva înregistrări, astfel încât să rostească orice text.
- Watermark pentru conținut AI: Un semn vizibil sau ascuns adăugat în textele, imaginile, sunetele sau video-urile generate de AI, ca să poată fi recunoscute ulterior.
- Moderarea conținutului cu AI: Folosirea AI pentru a găsi și filtra automat conținutul ilegal sau care încalcă regulile unei platforme: spam, violență, ură, fraude.
- Halucinație AI: Răspuns generat de AI care sună convingător, dar este fals sau inventat: fapte, cifre, citate sau surse care nu există.