OLLAMA_KEEP_ALIVE stabilește intervalul de timp în care un model rămâne încărcat în memoria plăcii video după finalizarea ultimei cereri (implicit 5 minute). Poți seta o durată fixă (ex: 30m, 2h), -1 pentru a nu fi descărcat niciodată sau 0 pentru eliberarea instantanee a resurselor.
# Menținerea modelului în VRAM pe durata întregii zile de lucru:
export OLLAMA_KEEP_ALIVE=24h
ollama serve
# Descărcare manuală imediată prin API REST fără oprirea serverului:
curl http://localhost:11434/api/generate -d '{"model": "llama3.1", "keep_alive": 0}'Eficiență: Elimină latența inițială de 3-5 secunde la prima cerere a fiecărei sesiuni de lucru.
Întrebări & Exemple practice:
Variabila OLLAMA_KEEP_ALIVE: Controlul Descărcării Modelelor din VRAMAi o întrebare despre Variabila OLLAMA_KEEP_ALIVE: Controlul Descărcării Modelelor din VRAM sau ai descoperit un truc, prompt sau fragment de cod util? Distribuie-l cu ceilalți membri ai comunității!
Fii primul care pune o întrebare sau distribuie un fragment de cod / prompt!
Nu au fost adăugate încă întrebări sau resurse pentru această pagină. Dacă ai testat un prompt sau ai un snippet util, adaugă-l mai jos pentru comunitate.