Ce este Răspunderea legală pentru halucinații?

Ce înseamnă Răspunderea legală pentru halucinații

Modelele de limbaj generează textul cel mai probabil, nu verifică adevărul. Rezultatul poate conține surse, citate sau hotărâri inexistente. OWASP tratează riscul ca „Misinformation” (LLM09:2025).

În Mata v. Avianca, Inc. (tribunalul federal pentru districtul de sud New York, 22 iunie 2023), avocații care au depus un memoriu cu hotărâri judecătorești inventate de ChatGPT au fost sancționați cu 5.000 de dolari.

În Moffatt v. Air Canada (Civil Resolution Tribunal din British Columbia, 2024 BCCRT 149), compania a fost obligată să despăgubească un client indus în eroare de chatbotul de pe site. Tribunalul a respins argumentul că chatbotul ar fi o entitate separată, responsabilă de propriile afirmații.

Cum funcționează

RAG cu citarea surselor și verificarea citatelor înainte de publicare.

Validare umană pentru răspunsurile cu efecte juridice, medicale sau financiare.

În UE, Directiva (UE) 2024/2853 privind răspunderea pentru produsele cu defect include explicit software-ul în definiția produsului și se aplică produselor puse pe piață după 9 decembrie 2026. Acoperă doar anumite daune: deces sau vătămare corporală, deteriorarea bunurilor și distrugerea sau coruperea datelor folosite în scop neprofesional (art. 6).

Pe înțelesul tuturor

Dacă angajatul de la ghișeul unei agenții de turism îi spune greșit unui client că nu are nevoie de viză, agenția răspunde față de client, nu producătorul calculatorului la care lucra angajatul.

Exemplu

Un chatbot de suport promite o rambursare care nu există în politica firmei. Măsura practică: răspunsurile despre bani, termene și drepturi se generează doar din documente aprobate, cu link spre sursă, iar cazurile neclare ajung la un operator.

De reținut

• Hotărârea Moffatt tratează informațiile date de chatbotul de pe site ca pe orice altă informație publicată de companie pe site-ul ei.
• În profesiile reglementate, răspunderea pentru documentul depus rămâne a profesionistului care îl semnează, indiferent de unealta folosită (cazul Mata).

Nu confunda

• Halucinație vs. dezinformare: halucinația este o eroare neintenționată a modelului; dezinformarea este conținut fals răspândit intenționat.

Termeni înrudiți

• Supravegherea umană (human-in-the-loop): Cerința ca sistemele AI cu risc ridicat să poată fi monitorizate, contrazise și oprite de oameni cu competența necesară.
• Explicabilitatea deciziilor AI (XAI): Metodele tehnice și drepturile legale prin care o decizie luată cu ajutorul AI poate fi explicată persoanei afectate.
• Deepfake și marcarea conținutului sintetic: Conținut audio-video generat sau modificat cu AI care pare autentic, și obligațiile de marcare și dezvăluire din AI Act.
• Evaluări și benchmark-uri de siguranță: Seturile publice de teste cu care se măsoară, comparabil între modele, tendința de a da răspunsuri false, toxice sau periculoase.