Contextual Compression extrage dintr-un fragment lung regăsit doar propozițiile direct relevante pentru întrebarea curentă, eliminând paragrafele parazite înainte de transmiterea către LLM. Acest proces reduce costurile de tokeni și evită diluarea atenției modelului.
from langchain.retrievers import ContextualCompressionRetriever
from langchain.retrievers.document_compressors import LLMChainExtractor
from langchain_openai import OpenAI
compressor = LLMChainExtractor.from_llm(OpenAI(temperature=0))
compression_retriever = ContextualCompressionRetriever(
base_compressor=compressor,
base_retriever=vectorstore.as_retriever()
)
documente_comprimate = compression_retriever.invoke("Care este clauza de reziliere din contract?")Rezultat: Promptul final conține doar esența informației, cu un raport semnal-zgomot maxim.
Întrebări & Discuții: Contextual Compression: Filtrarea și Comprimarea Pasajelor Relevante
Ai o întrebare despre Contextual Compression: Filtrarea și Comprimarea Pasajelor Relevante sau ai descoperit un truc, prompt sau fragment de cod util? Distribuie-l cu ceilalți membri ai comunității!
Fii primul care pune o întrebare sau distribuie un fragment de cod / prompt!
Nu au fost adăugate încă întrebări sau resurse pentru această pagină. Dacă ai testat un prompt sau ai un snippet util, adaugă-l mai jos pentru comunitate.