Ce este
Temperatura ajustează forma distribuției de probabilitate calculate peste întregul vocabular înainte ca următorul token să fie extras din ecuație.
O temperatură scăzută accentuează diferențele: tokenul cel mai probabil devine aproape o certitudine absolută. O temperatură ridicată ‘aplatizează’ distribuția, oferind șanse mai mari și cuvintelor mai puțin evidente.
Analogia din viața reală
Gândește-te la un bucătar: la temperatura 0, respectă cu sfințenie rețeta clasică gram cu gram, fără nicio abatere. La temperatura 0.7, adaugă un strop din condimentele proprii pentru aromă. La temperatura 1.8, începe să pună înghețată peste ciorbă de burtă – rezultatul poate fi genial sau complet de neînțeles.
Cum funcționează tehnic
Matematic, fiecare logit z_i este împărțit la temperatura T înainte de Softmax: p_i = exp(z_i / T) / ∑ exp(z_j / T).
La T → 0 (Greedy Decoding), modelul alege întotdeauna cel mai probabil token (determinism maxim).
La T > 1.0, entropia crește, generând răspunsuri surprinzătoare, dar cu risc crescut de halucinații sau fraze incoerente.
Exemple practice și aplicații
- T = 0.0 – 0.2: Ideal pentru programare, baze de date, extracție de date JSON, matematică și răspunsuri bazate pe fapte certe.
- T = 0.7: Valoarea implicită ideală pentru conversație generală, eseuri și asistență de scriere.
- T = 1.0 – 1.4: Recomandat pentru brainstorming, poezie, povestiri science-fiction și generare de idei inedite.
Greșeli frecvente sau mituri
Temperatura nu schimbă ‘inteligența’ modelului, ci doar diversitatea eșantionării; un model la temperatura 0 nu este mai deștept, ci doar mai conservator și reproductibil.
Termeni înrudiți
top-p-top-k: Noțiune asociată din ghidul de Modele Mari de Limbaj.next-token-prediction: Noțiune asociată din ghidul de Modele Mari de Limbaj.halucinatie-llm: Noțiune asociată din ghidul de Modele Mari de Limbaj.