Tehnici defensive de tratare a excepțiilor și protecție împotriva halucinațiilor în DSPy & Programare Algoritmică LLM

În producție, apelurile API pot întâmpina erori temporare de rețea (503 Service Unavailable, 429 Rate Limit) sau răspunsuri malformate. Ghidul prezintă configurarea mecanismelor de retry exponențial, a valorilor de fallback sigure și a barierelor semantice (Guards) împotriva conținutului malițios.

Reziliență Operațională și Bariere Semantice

Previne propagarea excepțiilor către utilizatorul final și garantează disponibilitatea serviciului.

import dspy
from tenacity import retry, stop_after_attempt, wait_exponential

class ResilientModule(dspy.Module):
    def __init__(self):
        super().__init__()
        self.predictor = dspy.Predict("query -> result")

    @retry(stop=stop_after_attempt(3), wait=wait_exponential(multiplier=1, min=2, max=10))
    def forward(self, query):
        try:
            return self.predictor(query=query)
        except Exception as e:
            # Răspuns de fallback de siguranță:
            return dspy.Prediction(result="Serviciul temporar indisponibil. Reîncercați.")

Utilizarea corectă a acestei funcționalități în DSPy asigură programarea algoritmică robustă a modelelor mari de limbaj, decuplând arhitectura codului de redactarea fragilă a prompturilor manuale.