Legile de scalare clasice descriu câștigul obținut prin modele mai mari, mai multe date și mai mult calcul la antrenare. Test-time scaling este a doua axă: același model primește mai mult calcul în momentul în care răspunde.
Snell et al. (2024) au studiat două mecanisme: căutarea cu un model verificator care notează pașii și actualizarea adaptivă a răspunsului de către model. Eficiența depinde de dificultatea întrebării; alocând calculul adaptiv pe întrebare, au obținut o eficiență de peste 4 ori mai mare decât best-of-N, iar într-o comparație la același număr de FLOPs un model mic a depășit un model de 14 ori mai mare pe problemele la care modelul mic avea deja un succes rezonabil.
La modelele de raționament, DeepSeek-R1-Zero a învățat singur, în timpul RL, să gândească tot mai mult (lungimea răspunsurilor a crescut constant pe parcursul antrenării).
Concepte cheie și caracteristici
| Concept / Parametru | Descriere practică |
|---|---|
Raționament secvențial mai lung |
Modelul generează mai mulți tokeni de gândire într-un singur lanț. |
Eșantionare paralelă (best-of-N, vot majoritar) |
Se generează mai multe răspunsuri independente și se alege unul prin vot sau cu un verificator. |
Căutare cu verificator |
Un model de recompensă pe procese notează pașii intermediari și ghidează căutarea (Snell et al.). |
Budget forcing |
Metoda s1 (2025): oprește forțat gândirea sau o prelungește adăugând „Wait” când modelul vrea să se oprească. |
Parametrul de efort |
În API-urile actuale: reasoning.effort la OpenAI și effort la Claude controlează cât raționează modelul. |
Exemple practice și scenarii reale
Exemplul 1: Mai mult efort de raționament prin API-ul OpenAI
Structura cererii din ghidul oficial „Reasoning models”; valoarea efortului este singura schimbare.
from openai import OpenAI
client = OpenAI()
response = client.responses.create(
model="gpt-6-astra",
reasoning={"effort": "high"},
input=[{"role": "user", "content": "Demonstrează că sqrt(2) este irațional."}],
)
print(response.output_text)Greșeli frecvente și capcane
- Te aștepți ca mai mult timp de gândire să ajute la orice întrebare. Snell et al. arată că efectul depinde de dificultate; la întrebări factuale pe care modelul nu le știe, gândirea suplimentară nu aduce informația lipsă.
- Uiți că tokenii de raționament ocupă context și se plătesc. Documentația OpenAI spune că pot fi de la câteva sute la zeci de mii și recomandă rezervarea a cel puțin 25.000 de tokeni pentru raționament și ieșire la început.
- Nu tratezi răspunsurile incomplete. Dacă se atinge
max_output_tokens, API-ul OpenAI întoarcestatus: incomplete, uneori înainte de orice text vizibil.