Implicit, serverul vLLM nu impune autentificare. Prin parametrul –api-key, toate cererile HTTP către endpoint-urile /v1/chat/completions, /v1/completions și /v1/models sunt blocate dacă nu conțin header-ul standard Authorization: Bearer <cheie>.
# Pornire server securizat cu cheie API:
vllm serve meta-llama/Meta-Llama-3.1-8B-Instruct --api-key "sk-vllm-prod-key-9876"
# Apel client:
curl http://localhost:8000/v1/models \
-H "Authorization: Bearer sk-vllm-prod-key-9876"Protecție esențială: Blochează accesul neautorizat la serverul tău de inferență expus în rețeaua internă sau cloud.
Întrebări & Exemple practice:
Autentificarea prin Chei API: –api-key pentru Protecția Endpoint-urilorAi o întrebare despre Autentificarea prin Chei API: –api-key pentru Protecția Endpoint-urilor sau ai descoperit un truc, prompt sau fragment de cod util? Distribuie-l cu ceilalți membri ai comunității!
Fii primul care pune o întrebare sau distribuie un fragment de cod / prompt!
Nu au fost adăugate încă întrebări sau resurse pentru această pagină. Dacă ai testat un prompt sau ai un snippet util, adaugă-l mai jos pentru comunitate.