ContextualCompressionRetriever procesează fragmentele găsite de retrieverul de bază, comprimându-le sau extrăgând doar propozițiile direct legate de întrebare, reducând zgomotul și numărul de tokeni consumați de LLM.
from langchain.retrievers import ContextualCompressionRetriever
from langchain.retrievers.document_compressors import LLMChainExtractor
compressor = LLMChainExtractor.from_llm(llm)
compression_retriever = ContextualCompressionRetriever(
base_compressor=compressor,
base_retriever=vectorstore.as_retriever()
)Cost redus: Scade dimensiunea contextului trimis modelului principal cu până la 60-80%.
Întrebări & Exemple practice:
ContextualCompressionRetriever: Filtrarea Fragmentelor Irelevante Înainte de LLMAi o întrebare despre ContextualCompressionRetriever: Filtrarea Fragmentelor Irelevante Înainte de LLM sau ai descoperit un truc, prompt sau fragment de cod util? Distribuie-l cu ceilalți membri ai comunității!
Fii primul care pune o întrebare sau distribuie un fragment de cod / prompt!
Nu au fost adăugate încă întrebări sau resurse pentru această pagină. Dacă ai testat un prompt sau ai un snippet util, adaugă-l mai jos pentru comunitate.