Pentru a preveni buclele infinite sau consumul necontrolat de tokeni atunci când o aserțiune nu poate fi satisfăcută, DSPy permite configurarea parametrului `max_backtracks` (implicit 2). La depășirea acestui buget, aserțiunea finalizează conform politicii alese.
Controlul Costului și al Bugetului de Tokeni
Protejează aplicațiile de producție împotriva latențelor mari cauzate de re-încercări succesive.
import dspy
# Activare gestionare aserțiuni cu buget de 3 încercări:
from dspy.primitives.assertions import assert_transform_module
strict_program = StrictResponder()
# Învelire program cu handler de backtracking:
production_program = assert_transform_module(strict_program, max_backtracks=3)Utilizarea corectă a acestei funcționalități în DSPy asigură programarea algoritmică robustă a modelelor mari de limbaj, decuplând arhitectura codului de redactarea fragilă a prompturilor manuale.
Întrebări & Exemple practice:
Gestionarea bugetului de încercări (max_backtracks) în aserțiuniAi o întrebare despre Gestionarea bugetului de încercări (max_backtracks) în aserțiuni sau ai descoperit un truc, prompt sau fragment de cod util? Distribuie-l cu ceilalți membri ai comunității!
Fii primul care pune o întrebare sau distribuie un fragment de cod / prompt!
Nu au fost adăugate încă întrebări sau resurse pentru această pagină. Dacă ai testat un prompt sau ai un snippet util, adaugă-l mai jos pentru comunitate.