Ce înseamnă Few-shot
Few-shot înseamnă că, împreună cu cererea, îi dai modelului câteva exemple rezolvate, de obicei între două și zece. Modelul observă tiparul din exemple și îl aplică la cazul nou. Dacă dai un singur exemplu, se vorbește de one-shot.
Fenomenul a fost pus în evidență în 2020, în articolul care a prezentat GPT-3, intitulat chiar „Language Models are Few-Shot Learners”. Cercetătorii au arătat că un model suficient de mare poate prelua o sarcină nouă doar din exemplele din prompt, fără antrenare suplimentară. Capacitatea se numește învățare în context (in-context learning).
Few-shot este util mai ales când contează formatul exact, stilul sau o regulă greu de descris în cuvinte, dar ușor de arătat prin exemple.
Cum funcționează
Promptul conține câteva perechi „intrare → răspuns”, urmate de intrarea nouă, fără răspuns. Modelul continuă tiparul. Parametrii modelului nu se schimbă: „învățarea” are loc doar în timpul acelei cereri și dispare după aceea.
Exemplele bune sunt variate, corecte și reprezentative. Dacă toate seamănă prea mult între ele sau au un defect comun, modelul îl va copia.
Pe înțelesul tuturor
Few-shot seamănă cu momentul în care îi arăți unui coleg nou două-trei facturi completate corect și îi spui „fă-o și pe asta la fel”. Nu îi explici regulile una câte una; le deduce singur din exemple.
Exemplu
Un magazin vrea să transforme mesajele dezordonate ale clienților în comenzi structurate. Promptul conține trei exemple, precum „Vreau 2 kile de mere și o pâine” → „mere: 2 kg; pâine: 1 buc.”. Urmează mesajul nou: „aș lua trei sticle de apă plată și un kil de roșii”. Modelul răspunde în același format: „apă plată: 3 sticle; roșii: 1 kg”.
De reținut
- Few-shot înseamnă câteva exemple rezolvate puse direct în prompt.
- Modelul preia tiparul pe loc (învățare în context), fără să-și schimbe parametrii.
- Este foarte util pentru format, stil și reguli greu de explicat în cuvinte.
Nu confunda
- Few-shot vs. fine-tuning: la few-shot, exemplele sunt doar în prompt, iar efectul ține o singură cerere; la fine-tuning, modelul este antrenat pe multe exemple și se schimbă permanent.
- Few-shot vs. zero-shot: diferența este prezența exemplelor rezolvate în prompt.
Termeni înrudiți
- Zero-shot: Folosirea unui model AI pentru o sarcină doar pe baza instrucțiunii, fără să-i dai niciun exemplu rezolvat.
- Prompt engineering: Arta de a formula cererile pentru modelele AI astfel încât să obții răspunsuri cât mai corecte, utile și în formatul dorit.
- Prompt: Textul (uneori și imaginile sau fișierele) pe care îl dai unui model AI ca să-i spui ce vrei să facă.
- Fine-tuning: Antrenarea suplimentară a unui model deja antrenat, pe un set mic de exemple, ca să se specializeze pe o sarcină, un domeniu sau un stil.
- Chain of thought (lanț de raționament): Tehnica prin care un model AI scrie pașii intermediari ai raționamentului înainte de răspuns, ceea ce îl ajută la probleme complexe.
- GPT: Familia de modele de limbaj creată de OpenAI, folosită în ChatGPT; numele înseamnă „transformer generativ pre-antrenat”.