Ce înseamnă Mistral
Mistral AI este o companie de inteligență artificială cu sediul la Paris, fondată în aprilie 2023 de Arthur Mensch, Guillaume Lample și Timothée Lacroix, foști cercetători la Google DeepMind și Meta. A devenit rapid cel mai cunoscut dezvoltator european de modele de limbaj.
Compania publică atât modele cu ponderi deschise, sub licențe permisive precum Apache 2.0, cât și modele comerciale, disponibile prin API. Pentru publicul larg oferă asistentul Le Chat, pe web și pe telefon.
Cum funcționează
Mistral s-a remarcat prin modele mici și eficiente: primul său model, Mistral 7B (septembrie 2023), cu aproximativ 7 miliarde de parametri, obținea rezultate comparabile cu modele mai mari. A urmat Mixtral, unul dintre primele modele deschise populare de tip Mixture of Experts, în care, pentru fiecare token, se activează doar o parte din rețea.
Modelele pot rula pe infrastructura Mistral, la furnizorii cloud mari sau pe serverele proprii ale clienților, ceea ce contează pentru firmele europene preocupate de locul în care le sunt procesate datele.
Pe înțelesul tuturor
Dacă modelele foarte mari sunt camioane puternice, modelele Mistral au fost gândite ca dube agile: duc mai puțin, dar consumă mult mai puțin și intră pe străzi înguste.
Exemplu
O companie de logistică din România vrea să clasifice automat e-mailurile clienților (reclamații, comenzi, întrebări). Alege un model Mistral cu ponderi deschise, pe care îl rulează pe un server propriu din UE, astfel încât e-mailurile să nu plece la un serviciu extern.
De reținut
- Mistral AI este o companie franceză, cu modele deschise și comerciale.
- Este cunoscută pentru eficiență și pentru popularizarea Mixture of Experts.
- Le Chat este asistentul ei pentru utilizatori.
Nu confunda
- Mistral (compania) vs. Mistral 7B (un model anume): numele companiei apare și în denumirile mai multor modele.
Termeni înrudiți
- Model open source / open weights: Model AI ale cărui ponderi pot fi descărcate și rulate de oricine; un model complet open source ar include și codul și informații despre date.
- Mixture of Experts (MoE): Arhitectură în care modelul are multe sub-rețele „expert”, dar activează doar câteva pentru fiecare token: e mare, dar rulează eficient.
- Llama: Familia de modele de limbaj a companiei Meta, publicate cu ponderi descărcabile, pe care oricine le poate rula și adapta.
- LLM (model lingvistic mare): Model AI antrenat pe cantități uriașe de text, care înțelege și generează limbaj; stă în spatele ChatGPT, Claude sau Gemini.
- SLM (model lingvistic mic): Model de limbaj compact, cu relativ puțini parametri, care poate rula rapid și ieftin pe un laptop, pe telefon sau pe un server mic.