LlamaDebugHandler înregistrează toate evenimentele interne declanșate în timpul interogării: timpul consumat de embeddings, tokenii transmiși LLM-ului, durata filtrării și nodurile returnate, afișând un arbore complet de execuție.
from llama_index.core.callbacks import CallbackManager, LlamaDebugHandler
from llama_index.core import Settings
debug_handler = LlamaDebugHandler(print_trace_on_end=True)
Settings.callback_manager = CallbackManager([debug_handler])
# Rularea interogării va afișa timpii fiecărui sub-pas în consolă:
response = query_engine.query("Ce este LlamaIndex?")Depanare rapidă: Identifică imediat gâtuirile de performanță (bottlenecks) din pipeline.
Întrebări & Exemple practice:
CallbackManager și LlamaDebugHandler: Trasarea Pașilor Interni de InferențăAi o întrebare despre CallbackManager și LlamaDebugHandler: Trasarea Pașilor Interni de Inferență sau ai descoperit un truc, prompt sau fragment de cod util? Distribuie-l cu ceilalți membri ai comunității!
Fii primul care pune o întrebare sau distribuie un fragment de cod / prompt!
Nu au fost adăugate încă întrebări sau resurse pentru această pagină. Dacă ai testat un prompt sau ai un snippet util, adaugă-l mai jos pentru comunitate.