Ghidul Binarilor din Suita llama.cpp în llama.cpp: Inferență LLM în C++ & Formatul GGUF

După compilare, directorul build/bin conține suita completă de unelte specializate:

• llama-cli: Client de linie de comandă pentru generare interactivă sau automatizată în terminal.
• llama-server: Server HTTP asincron de înaltă performanță cu API compatibil OpenAI.
• llama-quantize: Utilitar de conversie a greutăților pe 16 biți în formate cuantizate (Q4_K, Q8_0, IQ).
• llama-bench: Suită de benchmarking hardware pentru măsurarea vitezei memoriei și a procesorului.
• llama-embedding: Generator rapid de vectori de embedding pentru sisteme RAG.

# Listare binare executabile disponibile
ls -lh ./build/bin/llama-{cli,server,quantize,bench,embedding}

Fiecare binar este autonom și nu necesită runtime-uri greoaie Python în producție.