Descriere & Utilizare
Open WebUI nu este limitat doar la Ollama. Din secțiunea de conexiuni, poți introduce adresa oricărui server compatibil cu standardul OpenAI.
Poți conecta un server intern vLLM (care rulează pe o mașină dedicată cu plăci Nvidia H100) sau poți adăuga propriul tău API Key de la OpenAI, Anthropic sau Groq, oferind utilizatorilor o interfață unificată.
Cum să o reții ușor
💡 Un sistem audio modern care poate reda muzică atât de pe stick-ul USB local, cât și prin streaming online de pe Spotify.
Opțiuni și parametri tehnici
- Rutează mesajele către API-ul `/v1/chat/completions` specificat.
Exemple practice și cazuri de utilizare
- Conectare vLLM: `URL: http://192.168.1.50:8000/v1`, `Key: token-vllm`
- Conectare OpenAI oficial: `URL: https://api.openai.com/v1`, `Key: sk-…`
Sfaturi de configurare & capcane
Poți stabili modele implicite diferite pentru roluri diferite de utilizatori din panoul de administrare.
Comenzi și ghiduri înrudite
conectare-ollama-api: Comandă asociată din acest modul.docker-compose-ollama-webui: Comandă asociată din acest modul.user-roles-permissions: Comandă asociată din acest modul.