Ce înseamnă Chain of thought (lanț de raționament)
Chain of thought (prescurtat CoT, în română lanț de raționament) înseamnă că modelul nu sare direct la răspuns, ci scrie mai întâi pașii intermediari: ce date are, ce calculează, ce concluzie trage din fiecare pas. Abia apoi dă răspunsul final.
Tehnica a fost descrisă în 2022 de cercetători de la Google, care au arătat că modelele mari rezolvă mult mai bine probleme de matematică, logică și planificare când sunt îndemnate să-și arate raționamentul. O variantă foarte simplă, descrisă în același an, este adăugarea în prompt a îndemnului „Să gândim pas cu pas”.
Ideea stă la baza modelelor de raționament de azi, care sunt antrenate să producă singure un lanț de raționament, uneori lung, înainte de a răspunde.
Cum funcționează
Un model de limbaj generează text token cu token, iar fiecare token nou ține cont de tot ce a fost scris înainte. Când modelul scrie pașii intermediari, aceștia intră în context și îl ajută la pașii următori, ca o ciornă. Fără ciornă, modelul ar trebui să „calculeze” totul dintr-odată, ceea ce duce mai des la greșeli.
Lanțul de raționament nu garantează corectitudinea: pașii pot conține greșeli, iar studiile arată că explicația scrisă nu reflectă întotdeauna fidel felul în care modelul a ajuns, de fapt, la răspuns.
Pe înțelesul tuturor
Este diferența dintre a calcula „în cap” 17 × 24 și a face înmulțirea pe hârtie, rând cu rând. Pe hârtie e mai lent, dar greșești mult mai rar, iar dacă greșești, vezi unde.
Exemplu
Întrebare: „Un bilet de tren costă 80 de lei, iar studenții au 50% reducere. Cât plătesc în total trei studenți pentru drumul dus-întors?” Fără lanț de raționament, un model se poate grăbi și greși. Cu îndemnul „gândește pas cu pas”, scrie: un bilet redus costă 40 de lei; dus-întors înseamnă 80 de lei de persoană; pentru trei studenți, 240 de lei. Răspunsul este corect, iar fiecare pas poate fi verificat.
De reținut
- Chain of thought înseamnă scrierea pașilor intermediari înainte de răspuns.
- Îmbunătățește rezultatele la matematică, logică și planificare.
- Pașii scriși pot conține greșeli și trebuie verificați ca orice alt text generat.
Nu confunda
- Chain of thought vs. model de raționament: chain of thought este tehnica; un model de raționament este antrenat special să o aplice singur, de obicei pe larg.
- Raționament scris vs. gândire umană: textul pas cu pas seamănă cu felul în care gândim noi, dar nu dovedește că modelul înțelege problema ca un om.
Termeni înrudiți
- Model de raționament: Model de limbaj antrenat să „gândească” pe îndelete, printr-un raționament intern, înainte de a da răspunsul final.
- Prompt engineering: Arta de a formula cererile pentru modelele AI astfel încât să obții răspunsuri cât mai corecte, utile și în formatul dorit.
- Few-shot: Tehnica prin care incluzi în prompt câteva exemple rezolvate, ca modelul să înțeleagă exact sarcina, stilul și formatul dorit.
- LLM (model lingvistic mare): Model AI antrenat pe cantități uriașe de text, care înțelege și generează limbaj; stă în spatele ChatGPT, Claude sau Gemini.
- Halucinație AI: Răspuns generat de AI care sună convingător, dar este fals sau inventat: fapte, cifre, citate sau surse care nu există.