Ce este
Înainte de apariția LLM-urilor, pentru a învăța un model să clasifice recenzii sau să traducă într-un format special, trebuia să recalibrezi ponderile prin antrenare.
Modelele mari au dezvoltat capacitatea emergentă de In-Context Learning: dacă le oferi câteva exemple de intrare-ieșire (Few-Shot Prompting) direct în mesaj, modelul prinde regula și o aplică pe cazurile noi fără niciun fine-tuning.
Analogia din viața reală
Este ca un stagiar isteț căruia îi dai un dosar și îi spui: ‘Uită-te la aceste 3 exemple de formulare completate corect; acum completează tu al patrulea formular în exact același stil’. Nu a trebuit să îl trimiți la o facultate de 3 ani; a înțeles tiparul imediat din exemplele prezente pe masă.
Cum funcționează tehnic
Zero-Shot: cerință directă fără exemple (‘Clasifică sentimentul acestui text’).
One-Shot: cerință însoțită de 1 exemplu demonstrativ.
Few-Shot: cerință însoțită de 3-5 exemple demonstrative care stabilesc formatul, tonul și cazurile speciale.
Atenția identifică tiparul recurent din exemple și îl transferă către generarea noului răspuns.
Exemple practice și aplicații
- Traducere într-un dialect specific prin furnizarea a 3 propoziții paralele în prompt.
- Extragerea de date nestructurate într-un format XML particularizat prin oferirea unui exemplu model.
Greșeli frecvente sau mituri
Cunoștințele învățate în context nu se salvează permanent în model; odată ce sesiunea s-a încheiat sau contextul este resetat, ‘amintirea’ acelor exemple dispare.
Termeni înrudiți
context-window: Noțiune asociată din ghidul de Modele Mari de Limbaj.chain-of-thought: Noțiune asociată din ghidul de Modele Mari de Limbaj.