Ce este Conceptul RAG (Retrieval-Augmented Generation)?

Arhitectura care furnizează documente externe relevante modelului înainte ca acesta să genereze răspunsul, eliminând halucinațiile.

Denumire completă

RAG – combinarea unui motor de regăsire a informațiilor cu un model generativ pentru răspunsuri ancorate în date verificate

Format / Sintaxă: RAG – combinarea unui motor de regăsire a informațiilor cu un model generativ pentru răspunsuri ancorate în date verificate

Explicație detaliată

Retrieval-Augmented Generation (Lewis et al., 2020) rezolvă două mari neajunsuri ale LLM-urilor: cunoștințele lor se opresc la data antrenării (cutoff date) și nu au acces la datele private interne ale unei companii.

În loc să reantrenezi costisitor un model pentru fiecare document nou, sistemul RAG caută instantaneu fragmentele relevante într-o arhivă externă și le lipește în promptul asistentului ca sursă oficială de adevăr.

Analogie intuitivă

💡 Diferența dintre un student care încearcă să memoreze pe de rost toate cele 10 manuale medicale și un medic specialist care dă un examen cu tratatele deschise pe birou: medicul știe exact ce tratat să deschidă și citește doza corectă pe loc.

Mecanism & Funcționare

  • 1. Căutare (Retrieve): Întrebarea utilizatorului este folosită pentru a extrage top fragmente relevante dintr-o colecție privată.
  • 2. Augmentare (Augment): Fragmentele găsite sunt injectate în promptul de sistem.
  • 3. Generare (Generate): Modelul formulează răspunsul bazat exclusiv pe contextul anexat.

Exemple practice și aplicabilitate

  • Asistent virtual bancar care citește clauzele contractuale specifice fiecărui client dintr-un PDF de 80 de pagini.
  • Chatbot de suport tehnic intern conectat la wiki-ul Jira și Confluence al companiei.

Capcane frecvente & bune practici

Mit: „Fine-tuning-ul este mai bun decât RAG pentru a învăța date noi”. Realitate: Fine-tuning-ul schimbă stilul și comportamentul modelului, dar RAG-ul este net superior pentru fapte concrete și informații dinamice.

Noțiuni înrudite