Configurarea Motorului de Embeddings în Open WebUI & RAG Local

Admin Settings > Documents > Embedding Model Engine [Ollama / Sentence-Transformers]

Descriere & Utilizare

Acuratețea căutării într-un sistem RAG depinde critic de calitatea modelului de embeddings. Open WebUI îți oferă două opțiuni:
1. Sentence-Transformers local (rulează în container, implicit `all-MiniLM-L6-v2` sau modelul multilingv `BAAI/bge-m3`).
2. Ollama Embeddings (folosește un model descărcat în Ollama precum `nomic-embed-text`).

Cum să o reții ușor

💡 Alegerea unui traducător specializat: dacă ai documente în limba română, un model de embedding multilingv va înțelege mult mai bine nuanțele frazelor decât un model antrenat doar pe limba engleză.

Opțiuni și parametri tehnici

• Transformă fragmentele de text în vectori de 384, 768 sau 1024 de dimensiuni salvate în Chroma DB.

Exemple practice și cazuri de utilizare

• Pentru limba română se recomandă: BAAI/bge-m3 (suportă texte lungi și 100+ limbi).
• Pentru viteză maximă și consum minim de memorie: nomic-embed-text prin Ollama.

Sfaturi de configurare & capcane

Dacă schimbi modelul de embeddings, va trebui să reindexezi documentele vechi din panoul de administrare.

Comenzi și ghiduri înrudite

• rag-document-upload: Comandă asociată din acest modul.
• rag-chunking-settings: Comandă asociată din acest modul.
• rag-hybrid-rerank: Comandă asociată din acest modul.