Ollama oferă cea mai simplă modalitate de a rula modelele DeepSeek local, ocupându-se automat de descărcarea greutăților cuantizate în format GGUF, alocarea memoriei RAM/VRAM și configurarea promptului de sistem.
# Rularea modelului de 8B (necesită ~8GB RAM/VRAM)
ollama run deepseek-r1:8b
# Rularea modelului de 14B pe mașini cu 16GB VRAM
ollama run deepseek-r1:14b
# Modelul masiv de 70B pe stații de lucru cu 48GB VRAM (2x RTX 3090/4090)
ollama run deepseek-r1:70bOllama expune automat un endpoint REST local pe portul 11434 compatibil cu cererile HTTP standard.
Întrebări & Exemple practice:
Rularea Modelelor DeepSeek R1 și Distill cu OllamaAi o întrebare despre Rularea Modelelor DeepSeek R1 și Distill cu Ollama sau ai descoperit un truc, prompt sau fragment de cod util? Distribuie-l cu ceilalți membri ai comunității!
Fii primul care pune o întrebare sau distribuie un fragment de cod / prompt!
Nu au fost adăugate încă întrebări sau resurse pentru această pagină. Dacă ai testat un prompt sau ai un snippet util, adaugă-l mai jos pentru comunitate.