Metoda .with_fallbacks() permite configurarea unei liste ordonate de modele sau lanțuri de rezervă. Dacă modelul principal eșuează (depășire de cotă, indisponibilitate sau timeout), LangChain comută automat pe modelul secundar.
primary_model = ChatOpenAI(model="gpt-4o", timeout=10)
backup_model = ChatAnthropic(model="claude-3-5-sonnet-20241022")
local_fallback = ChatOllama(model="llama3.1:8b")
robust_llm = primary_model.with_fallbacks([backup_model, local_fallback])
chain = prompt | robust_llm | StrOutputParser()Disponibilitate ridicată (99.9%): Asigură funcționarea continuă a serviciului chiar și în timpul incidentelor majore ale unui singur furnizor de cloud.
Întrebări & Exemple practice:
Metoda .with_fallbacks(): Mecanisme de Rezervă cu Schimbare de ModelAi o întrebare despre Metoda .with_fallbacks(): Mecanisme de Rezervă cu Schimbare de Model sau ai descoperit un truc, prompt sau fragment de cod util? Distribuie-l cu ceilalți membri ai comunității!
Fii primul care pune o întrebare sau distribuie un fragment de cod / prompt!
Nu au fost adăugate încă întrebări sau resurse pentru această pagină. Dacă ai testat un prompt sau ai un snippet util, adaugă-l mai jos pentru comunitate.