Pentru framework-uri custom sau servicii asincrone unde nu se pot folosi decoratori, obiectele span și generation permit raportarea explicită a consumului exact de resurse.
Exemplu de generare manuală
from langfuse import Langfuse
langfuse = Langfuse()
trace = langfuse.trace(name="suport_client")
generare = trace.generation(
name="clasificare_intentie",
model="mistral-7b",
input="Nu pot accesa contul",
output="Intentie: autentificare_blocata",
usage={"total_tokens": 42}
)
generare.end()Langfuse calculează automat costul financiar în USD pe baza listei publice de prețuri ale modelelor.
Întrebări & Exemple practice:
Obiectele span și generation în Langfuse: Înregistrarea Manuală a Costurilor și TokenilorAi o întrebare despre Obiectele span și generation în Langfuse: Înregistrarea Manuală a Costurilor și Tokenilor sau ai descoperit un truc, prompt sau fragment de cod util? Distribuie-l cu ceilalți membri ai comunității!
Fii primul care pune o întrebare sau distribuie un fragment de cod / prompt!
Nu au fost adăugate încă întrebări sau resurse pentru această pagină. Dacă ai testat un prompt sau ai un snippet util, adaugă-l mai jos pentru comunitate.