Ce înseamnă Overfitting și Memorare în LLM
Un model este util dacă generalizează: se descurcă pe texte și probleme pe care nu le-a văzut. Overfitting înseamnă că modelul s-a adaptat prea mult la datele de antrenare și performanța pe date noi scade.
Memorarea este un fenomen separat: un model poate reproduce cuvânt cu cuvânt fragmente din datele de antrenare chiar dacă, în ansamblu, generalizează bine.
Cum funcționează
Overfitting-ul se vede pe curbele de pierdere: pierderea pe datele de antrenare continuă să scadă, iar cea pe datele de validare începe să crească. Se previne cu mai multe date, deduplicare, regularizare (weight decay, dropout) și oprire timpurie.
Carlini et al. (2020) au extras din GPT-2 sute de secvențe din datele de antrenare, printre care nume, numere de telefon, adrese de e-mail și cod, deși unele apăreau într-un singur document. Modelele mai mari s-au dovedit mai vulnerabile.
Pe înțelesul tuturor
Un student care învață pe de rost rezolvările din culegere ia nota maximă dacă primește exact aceleași probleme, dar se blochează când se schimbă o cifră. Altceva este un student care înțelege materia, dar poate recita totuși o poezie întreagă: aceasta este memorarea.
Exemplu
Fine-tuning pe un set mic, timp de prea multe epoci: modelul repetă formulările din exemple și răspunde mai slab la întrebări formulate altfel.
De reținut
- Overfitting-ul se măsoară pe date de validare; memorarea se testează prin încercări de extragere a datelor.
- Memorarea poate scurge date personale sau protejate de drepturi de autor, deci contează și pentru confidențialitate.
Nu confunda
- Memorare vs. overfitting: memorarea poate apărea și fără overfitting, chiar pentru texte care apar o singură dată în date.
Termeni înrudiți
- Pre-antrenarea (Pre-training): Prima etapă de antrenare, în care modelul învață limba și cunoștințe generale prezicând următorul token pe trilioane de tokeni de text.
- Supervised Fine-Tuning (SFT): Etapa în care un model de bază este antrenat pe exemple de instrucțiuni și răspunsuri bune, ca să învețe formatul și comportamentul unui asistent.
- Halucinațiile în LLM: Răspunsuri plauzibile, dar false, pe care modelul le generează cu aceeași încredere ca pe cele corecte.
- LoRA și QLoRA: Metodă de fine-tuning care antrenează doar două matrice mici atașate straturilor modelului, cu mult mai puțină memorie decât fine-tuning-ul complet.