Datorită popularității imense a DeepSeek la nivel mondial, serverele API pot experimenta perioade de suprasolicitare, returnând coduri de stare HTTP 429 (Rate Limit Exceeded) sau 503 (Server Overloaded). O aplicație de producție trebuie să implementeze strategii robuste de tip Exponential Backoff.
from tenacity import retry, stop_after_attempt, wait_exponential, retry_if_exception_type
import openai
@retry(
stop=stop_after_attempt(5),
wait=wait_exponential(multiplier=1, min=2, max=30),
retry=retry_if_exception_type((openai.RateLimitError, openai.APIConnectionError))
)
def apeleaza_deepseek_cu_retry(client, messages):
return client.chat.completions.create(
model="deepseek-chat",
messages=messages
)Utilizarea bibliotecii tenacity previne eșecul cererilor utilizatorilor în momentele de vârf de trafic.
Întrebări & Exemple practice:
Cotele de Rata TPM/RPM și Politici de Reîncercare AutomatăAi o întrebare despre Cotele de Rata TPM/RPM și Politici de Reîncercare Automată sau ai descoperit un truc, prompt sau fragment de cod util? Distribuie-l cu ceilalți membri ai comunității!
Fii primul care pune o întrebare sau distribuie un fragment de cod / prompt!
Nu au fost adăugate încă întrebări sau resurse pentru această pagină. Dacă ai testat un prompt sau ai un snippet util, adaugă-l mai jos pentru comunitate.