Modelele GroqCloud și deprecierile: ID-uri actuale, prețuri și migrare în Groq: LPU și GroqCloud API

Modele, costuri și limite GroqCloud API (octombrie 2026)

În octombrie 2026, modelele de text de producție din GroqCloud sunt openai/gpt-oss-120b și openai/gpt-oss-20b; Llama 3.x a rămas doar pentru clienții Enterprise, iar groq/compound a fost retras.

Sintaxă & invocare
GET https://api.groq.com/openai/v1/models
model="openai/gpt-oss-120b"   # sau openai/gpt-oss-20b, qwen/qwen3.8-27b

Groq împarte modelele în production (pentru aplicații în producție, cu cale de migrare anunțată la depreciere) și preview (doar pentru evaluare, pot fi retrase cu preaviz scurt). Unele modele sunt marcate Enterprise: prețul și limitele se negociază cu Groq, iar modelul nu este disponibil în planurile free și developer. Lista exactă pentru cheia ta se citește din GET /openai/v1/models sau din client.models.list().

În octombrie 2026, modelele de text de producție sunt openai/gpt-oss-120b și openai/gpt-oss-20b, modelele open-weight ale OpenAI de tip Mixture-of-Experts (120B parametri, 5,1B activi; 20B parametri, 3,6B activi). Au context de 131.072 de tokeni, cel mult 65.536 de tokeni de ieșire, raționament, tool use, JSON Schema și uneltele built-in de căutare și execuție de cod. Pentru audio, în producție sunt whisper-large-v3 și whisper-large-v3-turbo. În preview sunt qwen/qwen3.8-27b (text și imagini, moduri thinking și instruct), openai/gpt-oss-safeguard-20b (clasificare după politici proprii), modelele TTS Orpheus de la Canopy Labs și Llama Prompt Guard 2.

Procesul de depreciere: utilizatorii afectați primesc e-mail, pagina Deprecations indică înlocuitorul, modelul funcționează până la data de oprire, uneori cu redirecționare automată, apoi cererile către ID-ul vechi întorc erori. În 2026 au fost retrase pentru planurile free și developer llama-3.1-8b-instant și llama-3.3-70b-versatile (16 august; rămân doar pentru clienții Enterprise cu contract), qwen/qwen3-32b și Llama 4 Scout (17 iulie), Llama 4 Maverick (9 martie), Kimi K2 0905 (15 aprilie), Llama Guard 4 (5 martie), qwen/qwen3.6-27b (14 septembrie) și sistemele groq/compound și groq/compound-mini (21 septembrie, fără înlocuitor).

Concepte cheie și caracteristici

Concept / Parametru Descriere practică
openai/gpt-oss-120b Producție. ~500 tokeni/s, $0,15 intrare / $0,075 intrare din cache / $0,60 ieșire pe 1M tokeni. Context 131.072, ieșire 65.536.
openai/gpt-oss-20b Producție. ~1000 tokeni/s, $0,075 / $0,037 / $0,30. Context 131.072, ieșire 65.536.
whisper-large-v3 Producție. $0,111 pe oră de audio; transcriere și traducere în engleză.
whisper-large-v3-turbo Producție. $0,04 pe oră; doar transcriere.
qwen/qwen3.8-27b Preview. ~450 tokeni/s, $0,80 / $4,00. Context 131.072, ieșire 16.384, cel mult 3 imagini pe cerere.
openai/gpt-oss-safeguard-20b Preview. Clasificare de conținut după o politică scrisă de tine; $0,075 / $0,30.
canopylabs/orpheus-v1-english, canopylabs/orpheus-arabic-saudi Preview. Text-to-speech, $22, respectiv $40 pe 1M caractere.
meta-llama/llama-prompt-guard-2-22m / -86m Preview. Detectarea atacurilor de tip prompt injection; context 512.
llama-3.1-8b-instant, llama-3.3-70b-versatile Enterprise. Retrase pentru planurile free și developer din 16 august 2026; înlocuitori recomandați: openai/gpt-oss-20b, respectiv openai/gpt-oss-120b.
meta-models/muse-spark-open, minimaxai/minimax-m2.7 Enterprise, în preview (prețuri prin echipa de vânzări).
groq/compound, groq/compound-mini Retrase pe 21 septembrie 2026, fără înlocuitor. Vezi sistemele compuse.
deepseek-r1-distill-llama-70b Retras pe 2 octombrie 2025 (înlocuitor recomandat atunci: openai/gpt-oss-120b).

Exemple practice și scenarii reale

Exemplul 1: Modelele active pentru cheia ta

from groq import Groq

client = Groq()          # citește GROQ_API_KEY din mediu
for m in client.models.list().data:
    print(m.id)

Exemplul 2: Același lucru cu curl

curl https://api.groq.com/openai/v1/models \
  -H "Authorization: Bearer $GROQ_API_KEY"

Exemplul 3: Migrarea de la ID-urile retrase

Înlocuitorii sunt cei recomandați pe pagina Deprecations. Testează calitatea răspunsurilor înainte de schimbare: un model nou poate răspunde diferit la același prompt.

INLOCUIRI = {
    "llama-3.1-8b-instant": "openai/gpt-oss-20b",
    "llama-3.3-70b-versatile": "openai/gpt-oss-120b",
    "qwen/qwen3-32b": "openai/gpt-oss-120b",
    "qwen/qwen3.6-27b": "qwen/qwen3.8-27b",
    "deepseek-r1-distill-llama-70b": "openai/gpt-oss-120b",
    "meta-llama/llama-4-scout-17b-16e-instruct": "openai/gpt-oss-120b",
}

def model_actual(model_id: str) -> str:
    return INLOCUIRI.get(model_id, model_id)

Greșeli frecvente și capcane

  • Copiezi llama-3.3-70b-versatile sau mixtral-8x7b-32768 din tutoriale vechi. Pe un cont free sau developer, aceste ID-uri întorc acum erori.
  • Folosești în producție un model preview. Groq precizează că modelele preview pot fi retrase cu preaviz scurt.
  • Iei vitezele (tokeni/s) din pagina de modele drept garanție. Sunt valori orientative; latența reală depinde de prompt, de lungimea răspunsului și de coadă. Măsoar-o din câmpurile usage (vezi SDK-ul Python).

Noțiuni și module înrudite