Modelele de raționament precum R1 emit mii de tokeni în tagul <think>. Pe furnizorii clasici aștepți 30 de secunde; pe Groq, tot procesul de gândire se derulează în 3 secunde.
Exemplu de apel de raționament fulgerător
chat_completion = client.chat.completions.create(
messages=[{"role": "user", "content": "Demonstrează formula volumului sferei."}],
model="deepseek-r1-distill-llama-70b",
)
print(chat_completion.choices[0].message.content)Face utilizabile modelele de gândire profundă în fluxurile interactive de producție.
Întrebări & Exemple practice:
Rularea DeepSeek-R1 Distill la Peste 280 Tokeni/Sec pe GroqCloudAi o întrebare despre Rularea DeepSeek-R1 Distill la Peste 280 Tokeni/Sec pe GroqCloud sau ai descoperit un truc, prompt sau fragment de cod util? Distribuie-l cu ceilalți membri ai comunității!
Fii primul care pune o întrebare sau distribuie un fragment de cod / prompt!
Nu au fost adăugate încă întrebări sau resurse pentru această pagină. Dacă ai testat un prompt sau ai un snippet util, adaugă-l mai jos pentru comunitate.