Format / Sintaxă: Structured Output – constrângerea modelului să returneze date strict într-un format parsabil automat (JSON Schema, YAML)
Explicație detaliată
În aplicațiile software reale, textul liber generat de un LLM este dificil de integrat deoarece modelul poate adăuga oricând comentarii nesolicitate.
Prin tehnici de Structured Output (JSON Mode nativ sau scheme Pydantic/Zod), modelul este constrâns matematic de motorul de inferență să respecte o gramatică strictă, garantând parsarea sigură cu json.loads().
Analogie intuitivă
💡 Completarea unui formular tipizat la ghișeul fiscal: nu ai voie să scrii poezii sau scrisori de mulțumire; fiecare cifră trebuie trecută în căsuța corespunzătoare din chenar.
Mecanism & Funcționare
- La fiecare pas de predicție, masca gramaticală din motorul de inferență interzice tokenii care ar invalida sintaxa JSON sau tipurile din schemă.
Exemple practice și aplicabilitate
- Prompt: „Extrage din recenzia de produs: autorul, nota acordată (1-5) și aspectele reclamate. Răspunde strict sub forma obiectului JSON conform schemei: {\”autor\”: string, \”nota\”: number, \”reclamatii\”: list[string]}”
Capcane frecvente & bune practici
Asigură o rată de eroare de parsare de practic 0% în pipeline-urile automate din backend.
Noțiuni înrudite
few-shot-prompting: Noțiune asociată din acest modul.delimitatori-in-prompts: Noțiune asociată din acest modul.prompt-chaining: Noțiune asociată din acest modul.