Compactarea Contextului menține conversațiile lungi sau sesiunile de lucru prelungite ale agenților în limitele ferestrei de context a modelului. Când istoricul depășește un prag critic de tokeni, mesajele vechi sunt condensate recursiv într-un rezumat compact, păstrând doar ultimele N replici needitate.
from langchain.memory import ConversationSummaryBufferMemory
from langchain_openai import OpenAI
memory = ConversationSummaryBufferMemory(
llm=OpenAI(temperature=0),
max_token_limit=1500,
return_messages=True
)
# Adăugare conversații succesive:
memory.save_context({"input": "Suntem la pasul 1..."}, {"output": "Am finalizat pasul 1."})
# Memoria va condensa automat pașii anteriori pe măsură ce se adaugă mesaje noi!Reducere de costuri: Evită trimiterea a zeci de mii de tokeni repetați la fiecare interacțiune, menținând latența scăzută.
Întrebări & Discuții: Compactarea și Rezumarea Automată a Istoricului de Conversație
Ai o întrebare despre Compactarea și Rezumarea Automată a Istoricului de Conversație sau ai descoperit un truc, prompt sau fragment de cod util? Distribuie-l cu ceilalți membri ai comunității!
Fii primul care pune o întrebare sau distribuie un fragment de cod / prompt!
Nu au fost adăugate încă întrebări sau resurse pentru această pagină. Dacă ai testat un prompt sau ai un snippet util, adaugă-l mai jos pentru comunitate.