ollama serve în Ollama CLI & Ghid Local

ollama serve   (alias: ollama start)

Ce face ollama serve

ollama serve pornește serverul Ollama. Comenzile CLI (run, pull, ps) și aplicațiile care folosesc API-ul vorbesc cu acest server. Implicit ascultă pe 127.0.0.1, portul 11434; adresa se schimbă cu OLLAMA_HOST.

Pe macOS și Windows serverul pornește odată cu aplicația Ollama. Pe Linux, instalarea standard îl configurează ca serviciu systemd, pornit cu sudo systemctl start ollama. Rulezi ollama serve manual când nu folosești aplicația sau serviciul, de exemplu ca să încerci variabile de mediu.

ollama serve --help listează variabilele de mediu ale serverului. Jurnalele sunt în ~/.ollama/logs/server.log pe macOS, în journalctl -e -u ollama pe Linux și în %LOCALAPPDATA%\Ollama pe Windows.

Exemple practice

Exemplul 1: Pornire manuală cu context implicit mai mare

OLLAMA_CONTEXT_LENGTH=64000 ollama serve

Exemplul 2: Serviciul systemd pe Linux

sudo systemctl start ollama
sudo systemctl status ollama

Exemplul 3: Jurnalele serviciului pe Linux

journalctl -e -u ollama

Exemplul 4: Variabilele de mediu disponibile

ollama serve --help

Greșeli frecvente și bune practici

• Schimbi variabilele de mediu în terminal, dar serverul rulează ca aplicație sau serviciu. Setările se aplică procesului serverului, care trebuie repornit.
• Expui serverul cu OLLAMA_HOST=0.0.0.0 fără protecție. API-ul local nu cere autentificare; pune în față un proxy (de exemplu Nginx).
• Cauți jurnalele în terminal când serverul rulează ca serviciu. Pe Linux folosește journalctl.

Comenzi înrudite

• ollama-variabile-mediu
• ollama-env-host-models
• ollama-api-referinta
• ollama-ps