Format / Sintaxă: Re-ranking – refiltrarea și ordonarea precisă a primelor fragmente extrase folosind un model Cross-Encoder
Explicație detaliată
Modelele de embedding rapide folosesc arhitectura Bi-Encoder (întrebarea și documentul sunt codificate separat), ceea ce pierde relația fină de atenție dintre cuvinte.
Un model de Re-ranking (Cross-Encoder, cum este Cohere Rerank sau bge-reranker) analizează întrebarea și fragmentul împreună, calculând un scor de relevanță mult mai exact pentru top 50 de candidați.
Analogie intuitivă
💡 Comisia de admitere la o academie militară: prima probă este o alergare de rezistență care elimină rapid 90% din candidați (căutarea inițială), iar cei 10 rămași dau un interviu individual aprofundat de o oră cu comisia (Re-ranking).
Mecanism & Funcționare
- Etapa 1 (First-stage retrieval): Extragere rapidă a 50-100 de fragmente prin Hybrid Search.
- Etapa 2 (Re-ranking): Fiecare fragment este evaluat în detaliu; doar cele mai bune 3-5 fragmente trec mai departe în prompt.
Exemple practice și aplicabilitate
- Cohere Rerank API, BAAI/bge-reranker-large, Jina Reranker.
Capcane frecvente & bune practici
Adăugarea unui pas de re-ranking este adesea cea mai ieftină și eficientă optimizare pentru a crește calitatea unui sistem RAG existent.
Noțiuni înrudite
hybrid-search: Noțiune asociată din acest modul.dense-vs-sparse-retrieval: Noțiune asociată din acest modul.context-injection: Noțiune asociată din acest modul.