Descriere & Utilizare
Ollama expune un REST API curat și rapid. Cu un simplu apel `curl` sau o cerere `fetch()` din JavaScript, poți trimite prompturi și primi răspunsuri în timp real (streaming prin JSON Lines) sau ca un singur răspuns final (`”stream”: false`).
De asemenea, Ollama oferă endpoint-ul compatibil OpenAI /v1/chat/completions, permițându-ți să folosești librăria oficială `openai` din Python prin simpla schimbare a parametrului `base_url`.
Cum să o reții ușor
💡 Mufa standard prin care conectezi cablul de rețea: nu contează ce marcă de computer ai, datele circulă prin același protocol universal.
Opțiuni și parametri tehnici
- Primește cererea POST, alocă procesul pe modelul specificat și trimite tokenii generați în flux HTTP continuu.
Exemple practice și cazuri de utilizare
- Exemplu curl:
„`bash
curl http://localhost:11434/api/generate -d ‘{
„model”: „llama3”,
„prompt”: „Salut! Cine ești?”,
„stream”: false
}’
„`
Sfaturi de configurare & capcane
Folosește SDK-ul oficial de Python: pip install ollama urmat de ollama.chat(model='llama3', messages=[...]).
Comenzi și ghiduri înrudite
ollama-serve: Comandă asociată din acest modul.ollama-env-host-models: Comandă asociată din acest modul.modelfile-parameter-temperature: Comandă asociată din acest modul.