Pentru straturile care rulează pe CPU (sau pe mașinile fără placă video dedicată), PARAMETER num_thread setează numărul exact de nuclee logice utilizate pentru calculele matematice BLAS. Regula optimă este setarea la numărul de nuclee fizice ale procesorului (nu logice/hyperthreaded).
FROM deepseek-r1:8b
# Alocare pentru un procesor cu 8 nuclee fizice:
PARAMETER num_thread 8
Eficiență CPU: Previne supraaglomerarea scheduler-ului de procese al sistemului de operare.
Întrebări & Exemple practice:
Instrucțiunea Modelfile: PARAMETER num_thread (Fire de Execuție CPU)Ai o întrebare despre Instrucțiunea Modelfile: PARAMETER num_thread (Fire de Execuție CPU) sau ai descoperit un truc, prompt sau fragment de cod util? Distribuie-l cu ceilalți membri ai comunității!
Fii primul care pune o întrebare sau distribuie un fragment de cod / prompt!
Nu au fost adăugate încă întrebări sau resurse pentru această pagină. Dacă ai testat un prompt sau ai un snippet util, adaugă-l mai jos pentru comunitate.