Groq împarte modelele în production (pentru aplicații în producție, cu cale de migrare anunțată la depreciere) și preview (doar pentru evaluare, pot fi retrase cu preaviz scurt). Unele modele sunt marcate Enterprise: prețul și limitele se negociază cu Groq, iar modelul nu este disponibil în planurile free și developer. Lista exactă pentru cheia ta se citește din GET /openai/v1/models sau din client.models.list().
În octombrie 2026, modelele de text de producție sunt openai/gpt-oss-120b și openai/gpt-oss-20b, modelele open-weight ale OpenAI de tip Mixture-of-Experts (120B parametri, 5,1B activi; 20B parametri, 3,6B activi). Au context de 131.072 de tokeni, cel mult 65.536 de tokeni de ieșire, raționament, tool use, JSON Schema și uneltele built-in de căutare și execuție de cod. Pentru audio, în producție sunt whisper-large-v3 și whisper-large-v3-turbo. În preview sunt qwen/qwen3.8-27b (text și imagini, moduri thinking și instruct), openai/gpt-oss-safeguard-20b (clasificare după politici proprii), modelele TTS Orpheus de la Canopy Labs și Llama Prompt Guard 2.
Procesul de depreciere: utilizatorii afectați primesc e-mail, pagina Deprecations indică înlocuitorul, modelul funcționează până la data de oprire, uneori cu redirecționare automată, apoi cererile către ID-ul vechi întorc erori. În 2026 au fost retrase pentru planurile free și developer llama-3.1-8b-instant și llama-3.3-70b-versatile (16 august; rămân doar pentru clienții Enterprise cu contract), qwen/qwen3-32b și Llama 4 Scout (17 iulie), Llama 4 Maverick (9 martie), Kimi K2 0905 (15 aprilie), Llama Guard 4 (5 martie), qwen/qwen3.6-27b (14 septembrie) și sistemele groq/compound și groq/compound-mini (21 septembrie, fără înlocuitor).
Concepte cheie și caracteristici
| Concept / Parametru | Descriere practică |
|---|---|
openai/gpt-oss-120b |
Producție. ~500 tokeni/s, $0,15 intrare / $0,075 intrare din cache / $0,60 ieșire pe 1M tokeni. Context 131.072, ieșire 65.536. |
openai/gpt-oss-20b |
Producție. ~1000 tokeni/s, $0,075 / $0,037 / $0,30. Context 131.072, ieșire 65.536. |
whisper-large-v3 |
Producție. $0,111 pe oră de audio; transcriere și traducere în engleză. |
whisper-large-v3-turbo |
Producție. $0,04 pe oră; doar transcriere. |
qwen/qwen3.8-27b |
Preview. ~450 tokeni/s, $0,80 / $4,00. Context 131.072, ieșire 16.384, cel mult 3 imagini pe cerere. |
openai/gpt-oss-safeguard-20b |
Preview. Clasificare de conținut după o politică scrisă de tine; $0,075 / $0,30. |
canopylabs/orpheus-v1-english, canopylabs/orpheus-arabic-saudi |
Preview. Text-to-speech, $22, respectiv $40 pe 1M caractere. |
meta-llama/llama-prompt-guard-2-22m / -86m |
Preview. Detectarea atacurilor de tip prompt injection; context 512. |
llama-3.1-8b-instant, llama-3.3-70b-versatile |
Enterprise. Retrase pentru planurile free și developer din 16 august 2026; înlocuitori recomandați: openai/gpt-oss-20b, respectiv openai/gpt-oss-120b. |
meta-models/muse-spark-open, minimaxai/minimax-m2.7 |
Enterprise, în preview (prețuri prin echipa de vânzări). |
groq/compound, groq/compound-mini |
Retrase pe 21 septembrie 2026, fără înlocuitor. Vezi sistemele compuse. |
deepseek-r1-distill-llama-70b |
Retras pe 2 octombrie 2025 (înlocuitor recomandat atunci: openai/gpt-oss-120b). |
Exemple practice și scenarii reale
Exemplul 1: Modelele active pentru cheia ta
from groq import Groq
client = Groq() # citește GROQ_API_KEY din mediu
for m in client.models.list().data:
print(m.id)
Exemplul 2: Același lucru cu curl
curl https://api.groq.com/openai/v1/models \
-H "Authorization: Bearer $GROQ_API_KEY"
Exemplul 3: Migrarea de la ID-urile retrase
Înlocuitorii sunt cei recomandați pe pagina Deprecations. Testează calitatea răspunsurilor înainte de schimbare: un model nou poate răspunde diferit la același prompt.
INLOCUIRI = {
"llama-3.1-8b-instant": "openai/gpt-oss-20b",
"llama-3.3-70b-versatile": "openai/gpt-oss-120b",
"qwen/qwen3-32b": "openai/gpt-oss-120b",
"qwen/qwen3.6-27b": "qwen/qwen3.8-27b",
"deepseek-r1-distill-llama-70b": "openai/gpt-oss-120b",
"meta-llama/llama-4-scout-17b-16e-instruct": "openai/gpt-oss-120b",
}
def model_actual(model_id: str) -> str:
return INLOCUIRI.get(model_id, model_id)
Greșeli frecvente și capcane
- Copiezi
llama-3.3-70b-versatilesaumixtral-8x7b-32768din tutoriale vechi. Pe un cont free sau developer, aceste ID-uri întorc acum erori. - Folosești în producție un model preview. Groq precizează că modelele preview pot fi retrase cu preaviz scurt.
- Iei vitezele (tokeni/s) din pagina de modele drept garanție. Sunt valori orientative; latența reală depinde de prompt, de lungimea răspunsului și de coadă. Măsoar-o din câmpurile
usage(vezi SDK-ul Python).