Groq expune în antetul fiecărui răspuns HTTP numărul exact de tokeni rămași în minutul curent și secundele până la reîmprospătarea cotei.
Tratarea erorii 429 în Python
import time
from groq import RateLimitError
try:
resp = client.chat.completions.create(...)
except RateLimitError as e:
wait_seconds = int(e.response.headers.get("retry-after", 2))
print(f"Cotă atinsă. Aștept {wait_seconds} secunde...")
time.sleep(wait_seconds)
# Reîncearcă cererea
Garantează reziliență deplină în aplicațiile care trimit vârfuri mari de trafic.
Întrebări & Exemple practice:
Gestiunea Cotelor de Rată: Parsarea Headerelor x-ratelimit și retry-afterAi o întrebare despre Gestiunea Cotelor de Rată: Parsarea Headerelor x-ratelimit și retry-after sau ai descoperit un truc, prompt sau fragment de cod util? Distribuie-l cu ceilalți membri ai comunității!
Fii primul care pune o întrebare sau distribuie un fragment de cod / prompt!
Nu au fost adăugate încă întrebări sau resurse pentru această pagină. Dacă ai testat un prompt sau ai un snippet util, adaugă-l mai jos pentru comunitate.