Ce înseamnă Antrenarea unui model
Antrenarea este etapa în care un model AI învață. Pornește cu parametri aleatori, care dau răspunsuri fără sens, și primește exemple din datele de antrenare. După fiecare exemplu sau grup de exemple, parametrii sunt ajustați puțin, ca răspunsurile să se apropie de cele dorite.
Un model mic se poate antrena în câteva minute pe un laptop. Marile modele de limbaj se antrenează săptămâni sau luni, pe mii de plăci grafice specializate, cu costuri uriașe. De aceea, doar câteva companii antrenează de la zero cele mai mari modele.
La modelele de limbaj se vorbește de obicei despre două faze: pre-antrenarea (pre-training), în care modelul învață limba și cunoștințe generale din cantități uriașe de text, și post-antrenarea (post-training), în care este învățat să urmeze instrucțiuni, să fie util și să refuze cererile periculoase, prin metode precum fine-tuning și RLHF.
Cum funcționează
Fiecare pas al antrenării are trei momente. Modelul primește un exemplu și face o predicție. O funcție de pierdere (loss) măsoară cât de departe este predicția de răspunsul corect. Apoi backpropagation calculează cum a contribuit fiecare parametru la greșeală, iar gradient descent îi ajustează pe toți puțin, în direcția care reduce eroarea.
Ciclul se repetă de milioane sau miliarde de ori. Antrenarea se oprește de obicei când modelul nu mai progresează pe datele de validare. Dacă se continuă prea mult, modelul poate „învăța pe de rost” exemplele (overfitting) și se descurcă mai prost pe date noi.
Pe înțelesul tuturor
Antrenarea seamănă cu exersatul la tir cu arcul. Tragi, vezi cât de departe de centru a ajuns săgeata și îți corectezi puțin poziția. După mii de încercări, nimerești constant aproape de centru, fără să fi învățat vreo formulă.
Exemplu
O firmă de curierat vrea să estimeze cât durează o livrare. Antrenează un model pe două milioane de livrări vechi (oraș, distanță, oră, zi a săptămânii și durata reală). La început, estimările sunt la întâmplare; după câteva ore de antrenare pe un server, modelul ajunge să dea estimări apropiate de duratele reale.
De reținut
- Antrenarea înseamnă ajustarea repetată a parametrilor pentru a reduce greșelile.
- Este etapa cea mai scumpă: modelele mari cer luni de calcul pe mii de plăci grafice.
- După antrenare, modelul nu mai învață singur din folosire, decât dacă este antrenat din nou.
Nu confunda
- Antrenare vs. inferență: antrenarea creează modelul; inferența este folosirea lui ulterioară pentru a răspunde la cereri.
- Antrenare vs. fine-tuning: fine-tuning-ul este o antrenare suplimentară, mai scurtă, a unui model deja antrenat, pentru o sarcină anume.
Termeni înrudiți
- Date de antrenare: Exemplele din care învață un model AI: texte, imagini, sunete sau tabele. Calitatea lor decide în mare măsură calitatea modelului.
- Inferență: Folosirea unui model deja antrenat pentru a răspunde la cereri noi; fiecare răspuns al unui chatbot este o inferență.
- Funcție de pierdere (loss): Formula care măsoară cât de greșite sunt predicțiile unui model; antrenarea înseamnă micșorarea acestui număr.
- Gradient descent (coborârea gradientului): Metoda de optimizare prin care un model își ajustează ponderile în pași mici, mereu în direcția în care eroarea scade.
- Backpropagation: Metoda prin care o rețea neuronală află cât a contribuit fiecare pondere la eroare, ca să știe cum să le corecteze.
- Fine-tuning: Antrenarea suplimentară a unui model deja antrenat, pe un set mic de exemple, ca să se specializeze pe o sarcină, un domeniu sau un stil.