Ce înseamnă LangChain
LangChain este un framework open source lansat în octombrie 2022 de Harrison Chase, în jurul căruia s-a format apoi compania LangChain. Este disponibil pentru Python și JavaScript/TypeScript și oferă piese gata făcute pentru aplicațiile care folosesc modele lingvistice mari.
Rezolvă probleme comune: conectarea la diverși furnizori de modele (OpenAI, Anthropic, Google, modele locale prin Ollama) printr-o interfață unică, încărcarea documentelor, împărțirea lor în bucăți, căutarea în baze de date vectoriale și construirea de agenți care folosesc unelte.
Cum funcționează
Numele vine de la ideea de „lanț” (chain): o aplicație este o succesiune de pași, de exemplu „primește întrebarea, caută în documente, construiește promptul, cheamă modelul, formatează răspunsul”. LangChain oferă componente pentru fiecare pas și un mod de a le lega.
Ecosistemul include LangGraph, pentru agenți cu mai mulți pași și stări, și LangSmith, un serviciu pentru urmărirea și testarea aplicațiilor. Unii programatori consideră că abstracțiile adaugă complexitate și preferă să apeleze direct API-urile modelelor, mai ales la proiecte mici.
Pe înțelesul tuturor
LangChain este ca un set de piese LEGO pentru aplicații AI: în loc să fabrici fiecare piesă, le îmbini pe cele existente. Pentru o construcție mică, însă, uneori e mai simplu să lipești două bucăți de lemn.
Exemplu
O echipă dintr-o firmă de software din Brașov construiește un asistent care răspunde la întrebări despre regulamentul intern al companiei. Cu LangChain încarcă fișierele PDF, le împarte în fragmente, le salvează într-o bază de date vectorială și leagă totul de un model de limbaj, într-o aplicație de tip RAG.
De reținut
- LangChain este un framework pentru programatori, nu un model AI.
- Este folosit des pentru RAG și agenți AI.
- Merită pentru aplicații complexe; la cele simple poate fi prea mult.
Nu confunda
- LangChain vs. LLM: LangChain nu generează text singur, ci orchestrează apelurile către un model de limbaj.
Termeni înrudiți
- RAG (generare augmentată prin căutare): Tehnica prin care un model de limbaj caută întâi informații relevante în documente sau pe internet și abia apoi răspunde, pe baza lor.
- Agent AI: Sistem AI care primește un obiectiv și lucrează singur, în mai mulți pași, folosind unelte: caută, scrie, rulează cod, acționează în aplicații.
- Bază de date vectorială: Bază de date specializată în stocarea embedding-urilor și în găsirea rapidă a celor mai apropiate, ca sens, de o întrebare.
- Tool use (apelarea de funcții): Capacitatea unui model de limbaj de a cere folosirea unor unelte externe (căutare, calcule, baze de date, API-uri) ca să-și îndeplinească sarcina.
- Ollama: Program open source care descarcă și rulează modele de limbaj direct pe calculatorul tău, cu o singură comandă.
- API (pentru modele AI): Interfața prin care programele trimit cereri unui model AI găzduit de un furnizor și primesc răspunsuri, fără să ruleze ele însele modelul.