ollama ps în Ollama CLI & Ghid Local

ollama ps

Ce face ollama ps

ollama ps listează modelele încărcate în memorie. Coloana PROCESSOR arată unde s-a încărcat modelul: 100% GPU înseamnă integral pe GPU, 100% CPU integral în memoria sistemului, iar o valoare ca 48%/52% CPU/GPU înseamnă o împărțire între cele două.

CONTEXT arată lungimea de context alocată, iar UNTIL momentul în care modelul va fi descărcat. Implicit, un model rămâne încărcat 5 minute după ultima cerere; valoarea se schimbă cu OLLAMA_KEEP_ALIVE sau cu keep_alive în API. Versiunile recente afișează și o coloană RUNNER.

Prin API, aceeași informație vine de la GET /api/ps (inclusiv size_vram și expires_at).

Exemple practice

Exemplul 1: Modelele încărcate

Ieșirea de exemplu din pagina Context length.

ollama ps

Rezultat

NAME             ID              SIZE      PROCESSOR    CONTEXT    UNTIL
gemma4:latest    c6eb396dbd59    9.6 GB    100% GPU     131072     2 minutes from now

Exemplul 2: Aceeași informație prin API

curl http://localhost:11434/api/ps

Greșeli frecvente și bune practici

• Ignori o împărțire CPU/GPU în PROCESSOR. Documentația recomandă evitarea descărcării pe CPU pentru performanță; reduce contextul sau alege un model mai mic.
• Aștepți să expire UNTIL ca să eliberezi memoria. ollama stop MODEL descarcă modelul imediat.

Comenzi înrudite

• ollama-stop
• ollama-gpu-offload
• modelfile-parameter-num-ctx
• ollama-list