Dacă un model începe să repete aceleași fraze sau structuri de propoziție, parametrul repetition_penalty (cu valori tipice între 1.1 și 1.2) reduce probabilitatea re-generării tokenilor care au fost deja emiși recent.
outputs = model.generate(
**inputs,
max_new_tokens=256,
repetition_penalty=1.15,
)O valoare prea mare (ex: > 1.3) poate forța modelul să evite termeni tehnici necesari sau să aleagă sinonime bizare.
Întrebări & Exemple practice:
Penalizarea Repetițiilor (repetition_penalty)Ai o întrebare despre Penalizarea Repetițiilor (repetition_penalty) sau ai descoperit un truc, prompt sau fragment de cod util? Distribuie-l cu ceilalți membri ai comunității!
Fii primul care pune o întrebare sau distribuie un fragment de cod / prompt!
Nu au fost adăugate încă întrebări sau resurse pentru această pagină. Dacă ai testat un prompt sau ai un snippet util, adaugă-l mai jos pentru comunitate.