Variabilele de mediu Ollama (referință) în Ollama CLI & Ghid Local

OLLAMA_<NUME>=valoare ollama serve

Ce face Variabilele de mediu Ollama (referință)

Serverul Ollama se configurează prin variabile de mediu. Lista completă pentru versiunea instalată o afișează ollama serve --help; tabelul de mai jos o reproduce pentru Ollama 0.40, cu valorile implicite din FAQ și din textul de ajutor.

Variabilele se setează pe procesul serverului, nu pe client. Pe macOS (aplicația) folosești launchctl setenv și repornești aplicația; pe Linux cu systemd adaugi linii Environment= cu systemctl edit ollama.service, apoi systemctl daemon-reload și systemctl restart ollama; pe Windows editezi variabilele contului și repornești aplicația.

Pe sistemele non-macOS există și variabilele de selecție a GPU-ului (CUDA_VISIBLE_DEVICES și altele, în tabel). OLLAMA_VERSION nu este o setare a serverului: o citește scriptul de instalare pe Linux.

Sintaxă și opțiuni

Opțiune / Parametru	Descriere
OLLAMA_HOST	Adresa IP și portul serverului (implicit 127.0.0.1:11434). Folosită și de client.
OLLAMA_MODELS	Directorul modelelor.
OLLAMA_KEEP_ALIVE	Cât rămân modelele încărcate în memorie (implicit 5m). Acceptă durate, secunde, valori negative (permanent) sau 0.
OLLAMA_CONTEXT_LENGTH	Lungimea contextului folosită când nu se specifică alta (implicit 4k / 32k / 256k după VRAM).
OLLAMA_NUM_PARALLEL	Numărul maxim de cereri paralele per model (implicit 1).
OLLAMA_MAX_LOADED_MODELS	Numărul maxim de modele încărcate simultan (implicit 3 × numărul de GPU-uri sau 3 pe CPU).
OLLAMA_MAX_QUEUE	Numărul maxim de cereri puse în coadă înainte de respingere cu 503 (implicit 512).
OLLAMA_ORIGINS	Listă separată prin virgulă de origini permise (CORS), în plus față de 127.0.0.1 și 0.0.0.0.
OLLAMA_DEBUG	Informații suplimentare de depanare (de exemplu OLLAMA_DEBUG=1).
OLLAMA_DEBUG_LOG_REQUESTS	Salvează corpurile cererilor de inferență și comenzi curl de reluare într-un director temporar.
OLLAMA_FLASH_ATTENTION	1 forțează Flash Attention, 0 îl dezactivează; altfel se folosește automat unde este suportat.
OLLAMA_KV_CACHE_TYPE	Cuantizarea cache-ului K/V: f16 (implicit), q8_0, q4_0. Se aplică tuturor modelelor.
OLLAMA_GPU_OVERHEAD	Rezervă o porțiune de VRAM per GPU (în bytes).
OLLAMA_SCHED_SPREAD	Distribuie mereu modelul pe toate GPU-urile.
OLLAMA_IGPU_ENABLE	Activează GPU-urile integrate.
OLLAMA_LLM_LIBRARY	Alege biblioteca LLM și ocolește detectarea automată (de exemplu cpu_avx2).
OLLAMA_LOAD_TIMEOUT	Cât poate stagna încărcarea unui model înainte de renunțare (implicit 5m).
OLLAMA_MAX_TRANSFER_STREAMS	Fluxuri de transfer paralele la pull/push pentru modele safetensors (implicit 4).
OLLAMA_NOPRUNE	Nu curăța blob-urile modelelor la pornire.
OLLAMA_NOHISTORY	Nu păstra istoricul liniilor din sesiunea interactivă.
OLLAMA_EDITOR	Editorul deschis cu Ctrl+G în sesiunea interactivă.
OLLAMA_NO_CLOUD	Dezactivează funcțiile cloud (inferență la distanță și căutare web).
OLLAMA_REMOTES	Gazdele permise pentru modele la distanță (implicit ollama.com).
OLLAMA_CREATE_REMOTE	Forțează crearea modelelor prin API-ul serverului, chiar dacă serverul este local.
OLLAMA_GO_TEMPLATE	Activează randarea pe baza TEMPLATE din Modelfile, când este disponibilă.
OLLAMA_TMPDIR	Director temporar alternativ, pentru sisteme Linux cu noexec pe directorul implicit (din Troubleshooting).
OLLAMA_VULKAN	Activează suportul Vulkan (0 îl dezactivează).
LLAMA_ARG_FIT, LLAMA_ARG_FIT_TARGET	Potrivirea automată a opțiunilor de memorie în llama.cpp (implicit on) / marja țintă de VRAM liber per dispozitiv, în MiB.
HTTPS_PROXY, HTTP_PROXY, NO_PROXY	Proxy. Documentația recomandă doar HTTPS_PROXY; HTTP_PROXY poate întrerupe conexiunile clienților.
CUDA_VISIBLE_DEVICES	GPU-urile NVIDIA vizibile (UUID-urile sunt mai sigure decât ID-urile numerice; un ID invalid, ca -1, forțează CPU).
ROCR_VISIBLE_DEVICES, HIP_VISIBLE_DEVICES, GPU_DEVICE_ORDINAL	GPU-urile AMD vizibile (după UUID sau ID numeric).
HSA_OVERRIDE_GFX_VERSION	Suprascrie versiunea gfx pentru toate GPU-urile AMD detectate.
GGML_VK_VISIBLE_DEVICES	GPU-urile Vulkan vizibile, după ID numeric (-1 le dezactivează).

Exemple practice

Exemplul 1: Context implicit mai mare la pornirea serverului

OLLAMA_CONTEXT_LENGTH=64000 ollama serve

Exemplul 2: Linux cu systemd

sudo systemctl edit ollama.service
# în editor:
[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"

sudo systemctl daemon-reload
sudo systemctl restart ollama

Exemplul 3: macOS, aplicația Ollama

launchctl setenv OLLAMA_HOST "0.0.0.0:11434"

Exemplul 4: Lista pentru versiunea instalată

ollama serve --help

Greșeli frecvente și bune practici

• Setezi variabila în terminalul în care rulezi ollama run, deși serverul rulează ca aplicație sau serviciu. Setările serverului se aplică procesului serverului, care trebuie repornit.
• Setezi HTTP_PROXY pentru descărcări. Ollama descarcă doar prin HTTPS, deci folosește HTTPS_PROXY.
• Mărești OLLAMA_NUM_PARALLEL fără să ții cont de memorie. Memoria necesară crește cu OLLAMA_NUM_PARALLEL × OLLAMA_CONTEXT_LENGTH.

Comenzi înrudite

• ollama-env-host-models
• ollama-serve
• ollama-gpu-offload
• modelfile-parameter-num-ctx