Variabila OLLAMA_BASE_URLS în Open WebUI: Conectarea la Instanțe Multiple Ollama în Open WebUI & RAG Local

Variabila de mediu OLLAMA_BASE_URLS permite separarea prin punct și virgulă a mai multor endpoint-uri Ollama. Open WebUI interoghează toate instanțele și prezintă modelele disponibile într-o listă unificată.

Exemplu în docker-compose.yml

services:
  open-webui:
    image: ghcr.io/open-webui/open-webui:main
    environment:
      - OLLAMA_BASE_URLS=http://host.docker.internal:11434;http://gpu-server-2:11434
    ports:
      - "3000:8080"

Dacă un nod pică, interfața continuă să funcționeze utilizând nodurile secundare disponibile.