dexblog.ro
Acces rapid: Învață AI Învață Programare Specificații Dispozitive Comparații
OLLAMA Toate comenzile Ollama CLI & Ghid Local

Variabila CUDA_VISIBLE_DEVICES: Selectarea GPU-urilor Alocate în Ollama în Ollama CLI & Ghid Local

Server, Rețea și Hardware Izolare Hardware Q&A AI / Distribuie cod
Sintaxă & invocare 
export CUDA_VISIBLE_DEVICES=0,1 && ollama serve

În sistemele cu multiple plăci video NVIDIA, variabila standard de mediu CUDA_VISIBLE_DEVICES permite izolarea serverului Ollama pe o anumită placă grafică dedicată (de exemplu GPU 1), lăsând cealaltă placă (GPU 0) complet liberă pentru rendering, grafică sau antrenare.

# Forțează Ollama să utilizeze doar a doua placă video din sistem:
CUDA_VISIBLE_DEVICES=1 ollama serve

# Pentru GPU-uri AMD Radeon (ROCm):
# ROCR_VISIBLE_DEVICES=0 ollama serve

Izolare: Esențială pe stațiile de lucru folosite simultan pentru dezvoltare software și inferență AI.

Învață AI • Comunitate & Q&A

Întrebări & Exemple practice: Variabila CUDA_VISIBLE_DEVICES: Selectarea GPU-urilor Alocate în Ollama

Ai o întrebare despre Variabila CUDA_VISIBLE_DEVICES: Selectarea GPU-urilor Alocate în Ollama sau ai descoperit un truc, prompt sau fragment de cod util? Distribuie-l cu ceilalți membri ai comunității!

🤖

Fii primul care pune o întrebare sau distribuie un fragment de cod / prompt!

Nu au fost adăugate încă întrebări sau resurse pentru această pagină. Dacă ai testat un prompt sau ai un snippet util, adaugă-l mai jos pentru comunitate.

Comunitate AI Adaugă o întrebare sau distribuie un cod / prompt

Moderare & Siguranță:

Pentru a menține calitatea și securitatea informațiilor, fiecare întrebare sau fragment de cod/prompt este analizat (manual sau prin moderare asistată de AI) înainte de publicare.