Pentru securitate, dacă serverul rulează pe un computer personal sau în spatele unui proxy invers NGINX, setați --host 127.0.0.1 pentru a refuza conexiunile directe externe.
# Ascultare strict locală
./build/bin/llama-server -m model.gguf --host 127.0.0.1 --port 8080
# Ascultare pe toate interfețele de rețea (LAN / Internet):
# ./build/bin/llama-server -m model.gguf --host 0.0.0.0 --port 8080
Restricționarea interfeței previne expunerea neautorizată a resurselor GPU pe rețea.
Întrebări & Exemple practice:
Legarea la Interfețele de Rețea (–host)Ai o întrebare despre Legarea la Interfețele de Rețea (–host) sau ai descoperit un truc, prompt sau fragment de cod util? Distribuie-l cu ceilalți membri ai comunității!
Fii primul care pune o întrebare sau distribuie un fragment de cod / prompt!
Nu au fost adăugate încă întrebări sau resurse pentru această pagină. Dacă ai testat un prompt sau ai un snippet util, adaugă-l mai jos pentru comunitate.