Portkey este un gateway dedicat mediilor enterprise care oferă reziliență prin strategii avansate de configurare numite Config Rules. Dezvoltatorii pot defini lanțuri sofisticate de salvare în caz de eroare:
{
"strategy": {
"mode": "fallback"
},
"targets": [
{ "provider": "openai", "model": "gpt-4o" },
{ "provider": "anthropic", "model": "claude-3-5-sonnet" },
{ "provider": "mistral", "model": "mistral-large" }
]
}from portkey_ai import Portkey
# Inițializare client Portkey cu ID-ul configurației de fallback
portkey = Portkey(
api_key="PORTKEY_API_KEY",
config="pc-fallback-prod-v1"
)
# Dacă OpenAI este indisponibil, Portkey comută automat pe Claude
response = portkey.chat.completions.create(
messages=[{"role": "user", "content": "Generează rezumatul..."}]
)Portkey asigură o disponibilitate de 99.99% pentru aplicațiile critice de afaceri, chiar și în timpul incidentelor majore ale furnizorilor de AI.
Întrebări & Exemple practice:
Portkey Gateway: Strategii de Fallback și Reîncercare AutomatăAi o întrebare despre Portkey Gateway: Strategii de Fallback și Reîncercare Automată sau ai descoperit un truc, prompt sau fragment de cod util? Distribuie-l cu ceilalți membri ai comunității!
Fii primul care pune o întrebare sau distribuie un fragment de cod / prompt!
Nu au fost adăugate încă întrebări sau resurse pentru această pagină. Dacă ai testat un prompt sau ai un snippet util, adaugă-l mai jos pentru comunitate.