Rularea secvențială a 1.000 de exemple poate dura o oră. Prin versiunile asincrone ale metodelor `forward`, zeci de apeluri către Groq sau OpenAI sunt trimise simultan.
Exemplu asyncio în DSPy
import asyncio
async def evalueaza_batch(intrebari):
tasks = [module.async_forward(intrebare=q) for q in intrebari]
return await asyncio.gather(*tasks)
rezultate = asyncio.run(evalueaza_batch(lista_100_intrebari))Reduce timpul de optimizare și procesare la câteva secunde.
Întrebări & Exemple practice:
Execuția Asincronă în Paralel cu asyncio.gather în DSPyAi o întrebare despre Execuția Asincronă în Paralel cu asyncio.gather în DSPy sau ai descoperit un truc, prompt sau fragment de cod util? Distribuie-l cu ceilalți membri ai comunității!
Fii primul care pune o întrebare sau distribuie un fragment de cod / prompt!
Nu au fost adăugate încă întrebări sau resurse pentru această pagină. Dacă ai testat un prompt sau ai un snippet util, adaugă-l mai jos pentru comunitate.