Parametrul stop indică modelului să înceteze imediat generarea dacă întâlnește unul dintre șirurile de caractere specificate. Este critic în buclele agentice (ReAct) unde modelul trebuie să se oprească imediat după generarea unei comenzi de acțiune:
completion = client.chat.completions.create(
model="llama-3.1-8b-instant",
messages=[{"role": "user", "content": "Generează doar titlul articolului:"}],
stop=["
", ".", "---"]
)
print("Titlu generat:", completion.choices[0].message.content)Oprirea timpurie previne consumul inutil de tokeni din cotă și reduce timpul total de răspuns.
Întrebări & Exemple practice:
Secvențe de Oprire (Stop Sequences) pentru Controlul IeșiriiAi o întrebare despre Secvențe de Oprire (Stop Sequences) pentru Controlul Ieșirii sau ai descoperit un truc, prompt sau fragment de cod util? Distribuie-l cu ceilalți membri ai comunității!
Fii primul care pune o întrebare sau distribuie un fragment de cod / prompt!
Nu au fost adăugate încă întrebări sau resurse pentru această pagină. Dacă ai testat un prompt sau ai un snippet util, adaugă-l mai jos pentru comunitate.