Ce este Chain-of-Thought (CoT) Prompting?

Ce înseamnă Chain-of-Thought (CoT) Prompting

Chain-of-thought prompting a fost descris de Jason Wei și colegii de la Google Research, Brain Team, în 2022 („Chain-of-Thought Prompting Elicits Reasoning in Large Language Models”, NeurIPS 2022). În varianta originală, promptul conține câteva exemple rezolvate în care răspunsul este precedat de pașii de raționament. Cu doar opt astfel de exemple, PaLM 540B a obținut atunci cel mai bun rezultat publicat pe GSM8K, un set de probleme de matematică cu enunț.

Lucrarea a observat că beneficiul apare doar la modele mari: la modele sub aproximativ 100 de miliarde de parametri, lanțurile de raționament erau fluente, dar ilogice, iar rezultatul era mai slab decât fără CoT. Câteva luni mai târziu, Kojima et al. (2022) au propus varianta zero-shot CoT: fraza „Let’s think step by step” adăugată înaintea răspunsului a ridicat acuratețea modelului text-davinci-002 pe MultiArith de la 17,7% la 78,7%.

Modelele de raționament actuale gândesc intern înainte să răspundă (thinking adaptiv la Claude, thinking la Gemini 2.5 și 3, modelele de raționament OpenAI). Pentru ele, CoT scris de mână nu mai este necesar: OpenAI consideră îndemnul „think step by step” inutil și uneori dăunător, Google spune că nu e nevoie ca modelul să-și detalieze pașii în răspuns, iar Anthropic recomandă instrucțiuni generale („gândește temeinic”) în locul unui plan pas cu pas scris de om.

Cum funcționează

Modelul generează text token cu token. Când pașii intermediari sunt scriși, fiecare pas nou poate folosi rezultatele pașilor anteriori, deja prezenți în context. Fără ei, modelul trebuie să ajungă la răspuns direct.

Variante: few-shot CoT (exemple cu raționament scris, ca în lucrarea lui Wei), zero-shot CoT (o instrucțiune de tipul „gândește pas cu pas”) și CoT cu etichete, în care raționamentul și răspunsul final stau separat, de exemplu în <thinking> și <answer>, ca răspunsul să poată fi extras automat.

Documentația Anthropic păstrează CoT manual doar ca soluție de rezervă, când thinking-ul este oprit. Pe modelele Claude cele mai noi (de exemplu Claude Opus 5.5 și Sonnet 5.5) recomandă thinking-ul, eventual la un nivel de effort mai mic: o cerere de a scrie raționamentul în text, de exemplu în etichete <thinking>, poate fi refuzată.

Pe înțelesul tuturor

Un elev care rezolvă pe ciornă o problemă cu mai mulți pași greșește mai rar decât unul care scrie direct rezultatul, pentru că fiecare calcul intermediar rămâne în fața lui. Modelele de raționament au acum propria ciornă: nu mai trebuie să le ceri tu să o folosească.

Exemplu

Zero-shot CoT pentru un model fără raționament intern:
O cantină avea 23 de mere. A folosit 20 pentru prânz și a cumpărat încă 6. Câte mere are acum? Gândește pas cu pas, apoi scrie doar răspunsul final în etichetele <answer></answer>.

Problema este adaptată după exemplul din figura 1 a lucrării lui Wei et al.; răspunsul corect este 23 − 20 + 6 = 9. Unui model de raționament i se trimite aceeași întrebare fără „Gândește pas cu pas”.

De reținut

• CoT original (Wei et al., 2022) folosea exemple rezolvate cu pași; „Let’s think step by step” vine din lucrarea lui Kojima et al. (2022).
• Câștigul a apărut la modele foarte mari și la sarcini cu mai mulți pași: aritmetică, bun-simț, raționament simbolic.
• La modelele de raționament actuale nu mai scrie „gândește pas cu pas”; descrie clar obiectivul și reglează efortul prin parametrii API.
• La întrebări simple, CoT adaugă doar tokeni și latență.

Nu confunda

• CoT în prompt vs. raționament intern: CoT este o tehnică de prompt; thinking-ul modelelor de raționament este un comportament antrenat, controlat prin parametri ai API-ului.
• Pașii scriși vs. motivul real al răspunsului: un studiu Anthropic (Chen et al., 2025, „Reasoning Models Don’t Always Say What They Think”) a găsit că modelele de raționament își menționează rar în raționament indiciile pe care le-au folosit de fapt. Lanțul scris nu este o explicație garantată a răspunsului.

Termeni înrudiți

• Self-Consistency: Strategie de decodare în care generezi mai multe raționamente diferite pentru aceeași problemă și alegi răspunsul final care apare cel mai des.
• Tree of Thoughts (ToT): Metodă în care modelul propune mai mulți pași intermediari posibili, îi evaluează singur, iar un algoritm de căutare îi explorează ca pe un arbore, cu posibilitatea de a reveni.
• Prompting pentru modele de raționament: Cum scrii prompturi pentru modelele care raționează intern înainte să răspundă: obiectiv și criterii clare, fără chain-of-thought impus, cu efortul reglat din parametrii API.
• Zero-Shot Prompting: Tehnica de bază în care ceri modelului o sarcină doar prin instrucțiuni, fără exemple rezolvate în prompt.