Ce înseamnă Llama
Llama este familia de modele lingvistice mari dezvoltată de Meta (compania care deține Facebook, Instagram și WhatsApp). Prima versiune, scrisă LLaMA, a apărut în februarie 2023 pentru cercetători, iar din iulie 2023 versiunile următoare au putut fi folosite și comercial.
Spre deosebire de ChatGPT sau Gemini, ale căror modele rulează doar pe serverele companiilor, la Llama se pot descărca ponderile (parametrii antrenați). Astfel, firmele și pasionații le pot rula pe propriile servere sau calculatoare și le pot adapta prin fine-tuning. Llama a contribuit decisiv la apariția ecosistemului de modele deschise.
Cum funcționează
Modelele Llama sunt transformere, publicate în mai multe mărimi: de la variante mici, care rulează pe un laptop, până la modele foarte mari, care au nevoie de servere cu multe GPU-uri. Meta le folosește și în propriul asistent, Meta AI, din aplicațiile sale.
Licența Llama este una proprie a Meta: permite folosirea gratuită, inclusiv comercială, dar impune condiții (de exemplu, companiile cu un număr foarte mare de utilizatori au nevoie de o licență separată). De aceea, Llama este descris corect ca model cu ponderi deschise (open weights), nu ca model open source în sensul strict.
Pe înțelesul tuturor
Dacă un model accesibil doar prin API este ca un restaurant unde primești farfuria gata făcută, Llama este ca o rețetă pe care o poți găti acasă, modifica după gust și servi propriilor clienți, cu respectarea câtorva condiții ale autorului.
Exemplu
O firmă românească de software vrea un asistent intern care să răspundă la întrebări despre documentația proprie, fără ca datele să plece din firmă. Instalează un model Llama de mărime medie pe un server propriu, prin Ollama, și îl conectează la documente printr-un sistem RAG.
De reținut
- Llama este creat de Meta și se poate descărca și rula local.
- Este „open weights”, cu o licență proprie, nu open source clasic.
- Există variante de mărimi diferite, pentru laptop sau pentru servere.
Nu confunda
- Llama vs. Ollama: Ollama este un program care rulează modele local (inclusiv Llama); nu este făcut de Meta.
Termeni înrudiți
- Model open source / open weights: Model AI ale cărui ponderi pot fi descărcate și rulate de oricine; un model complet open source ar include și codul și informații despre date.
- LLM (model lingvistic mare): Model AI antrenat pe cantități uriașe de text, care înțelege și generează limbaj; stă în spatele ChatGPT, Claude sau Gemini.
- Ollama: Program open source care descarcă și rulează modele de limbaj direct pe calculatorul tău, cu o singură comandă.
- Fine-tuning: Antrenarea suplimentară a unui model deja antrenat, pe un set mic de exemple, ca să se specializeze pe o sarcină, un domeniu sau un stil.
- Hugging Face: Platforma online unde comunitatea AI publică și descarcă modele, seturi de date și aplicații demonstrative; un fel de GitHub al AI-ului.
- Mistral: Companie franceză fondată în 2023, cunoscută pentru modele de limbaj eficiente, multe cu ponderi deschise, și pentru asistentul Le Chat.