În DSPy, orice program complex este o subclasă a `dspy.Module`, urmând îndeaproape paradigma PyTorch `torch.nn.Module`. În `__init__` se declară sub-modulele și straturile de procesare, iar în `forward` se definește fluxul de date și apelurile secvențiale către acestea.
Paradigma PyTorch pentru Aplicații LLM
Permite organizarea codului în rețele modulare refolosibile ce pot fi compuse, salvate și optimizate ca un întreg.
import dspy
class RAGPipeline(dspy.Module):
def __init__(self, num_passages=3):
super().__init__()
self.retrieve = dspy.Retrieve(k=num_passages)
self.generate_answer = dspy.ChainOfThought("context, question -> answer")
def forward(self, question):
passages = self.retrieve(question).passages
context = "\n\n".join(passages)
prediction = self.generate_answer(context=context, question=question)
return dspy.Prediction(context=context, answer=prediction.answer)
Utilizarea corectă a acestei funcționalități în DSPy asigură programarea algoritmică robustă a modelelor mari de limbaj, decuplând arhitectura codului de redactarea fragilă a prompturilor manuale.
Întrebări & Exemple practice:
Crearea de Module Personalizate dspy.Module: constructor __init__ și metoda forwardAi o întrebare despre Crearea de Module Personalizate dspy.Module: constructor __init__ și metoda forward sau ai descoperit un truc, prompt sau fragment de cod util? Distribuie-l cu ceilalți membri ai comunității!
Fii primul care pune o întrebare sau distribuie un fragment de cod / prompt!
Nu au fost adăugate încă întrebări sau resurse pentru această pagină. Dacă ai testat un prompt sau ai un snippet util, adaugă-l mai jos pentru comunitate.