Parametrul -r (sau --reverse-prompt) definește o secvență de caractere care marchează sfârșitul rândului modelului. Imediat ce aceste caractere sunt prezise, generarea se oprește fără a le tipări pe ecran.
# Oprire la eticheta de utilizator sau la tokenul special de sfârșit
./build/bin/llama-cli -m model.gguf -r "Utilizator:" -r "<|eot_id|>" -i
Puteți specifica flag-ul -r de mai multe ori pentru a defini oricâte secvențe de oprire doriți.
Întrebări & Exemple practice:
Oprirea Generării la Secvențe Specifice (-r / –reverse-prompt)Ai o întrebare despre Oprirea Generării la Secvențe Specifice (-r / –reverse-prompt) sau ai descoperit un truc, prompt sau fragment de cod util? Distribuie-l cu ceilalți membri ai comunității!
Fii primul care pune o întrebare sau distribuie un fragment de cod / prompt!
Nu au fost adăugate încă întrebări sau resurse pentru această pagină. Dacă ai testat un prompt sau ai un snippet util, adaugă-l mai jos pentru comunitate.