Ce este
Halucinațiile apar deoarece LLM-urile sunt optimizate pentru coerență lingvistică și fluență probabilistică, nu pentru verificarea adevărului obiectiv din lumea reală.
Când un model nu deține date sigure despre un subiect obscur sau când este forțat să răspundă la o întrebare capcană, el va alege tokenii care ‘sună cel mai plauzibil’ din punct de vedere gramatical și stilistic, generând citate, legi, cărți sau biografii fictive.
Analogia din viața reală
Imaginează-ți un povestitor foarte carismatic care a uitat exact cum s-a terminat o bătălie istorică. În loc să recunoască ‘nu știu’, el inventează pe loc un discurs spectaculos al regelui și numele a trei generali falși, vorbind cu atâta pasiune și siguranță încât toți din jur cred că citește dintr-un tratat oficial de istorie.
Cum funcționează tehnic
Cauze principale: date incomplete în pre-antrenare, suprapunerea conceptelor similare în spațiul semantic și penalizarea insuficientă a ghicitului nesigur în aliniere.
Metode de combatere: sisteme RAG (Retrieval-Augmented Generation) cu documente de bază verificate, forțarea modelului să citeze surse și temperatură scăzută (0.0).
Exemple practice și aplicații
- Inventarea de articole de lege sau procese judiciare inexistente într-o pledoarie juridică.
- Generarea de librării sau pachete npm/pip fictive care par să rezolve o problemă, dar nu există în realitate (fenomen numit ‘Package Hallucination’).
Greșeli frecvente sau mituri
Halucinațiile nu sunt o defecțiune software ce poate fi rezolvată printr-un simplu patch; ele sunt reversul medaliei creativității și flexibilității modelelor generative.
Termeni înrudiți
temperatura: Noțiune asociată din ghidul de Modele Mari de Limbaj.overfitting-llm: Noțiune asociată din ghidul de Modele Mari de Limbaj.sycophancy: Noțiune asociată din ghidul de Modele Mari de Limbaj.