Modelele de tip „Reasoning” (o1, DeepSeek-R1) nu emit răspunsul direct, ci generează lanțuri lungi de gândire internă (Thinking Tokens), backtrack-uiesc când ajung într-un impas și își validează propriile etape de calcul.
Schimbare de paradigmă
Pre-training scaling: Mai mult GPU la instruire -> Modelul devine mai enciclopedic.
Test-time scaling: Mai mult timp de gândire la inferență -> Modelul rezolvă matematică și cod de olimpiadă.Permite depășirea platoului atins de modelele generative clasice fără a necesita creșterea numărului de parametri.
Întrebări & Discuții: Scalarea Calculului la Rularea Inferenței (Test-Time Compute): Arhitectura Modelelor o1 și o3
Ai o întrebare despre Scalarea Calculului la Rularea Inferenței (Test-Time Compute): Arhitectura Modelelor o1 și o3 sau ai descoperit un truc, prompt sau fragment de cod util? Distribuie-l cu ceilalți membri ai comunității!
Fii primul care pune o întrebare sau distribuie un fragment de cod / prompt!
Nu au fost adăugate încă întrebări sau resurse pentru această pagină. Dacă ai testat un prompt sau ai un snippet util, adaugă-l mai jos pentru comunitate.