RewardTrainer antrenează un model de recompensă (Reward Model) care primește un text și un răspuns generat, emițând un scor scalar ce cuantifică calitatea, politețea și acuratețea răspunsului.
from trl import RewardTrainer, RewardConfig
trainer = RewardTrainer(
model=model_clasificator,
args=RewardConfig(output_dir="./reward_model", per_device_train_batch_size=4),
train_dataset=dataset_etichetat
)
trainer.train()
Filtrare de producție: Scorul emis de modelul de recompensă poate fi folosit ca filtru de siguranță înainte de a arăta răspunsul clientului.
Întrebări & Exemple practice:
RewardTrainer în TRL: Antrenarea Modelelor de Notare și Evaluare a CalitățiiAi o întrebare despre RewardTrainer în TRL: Antrenarea Modelelor de Notare și Evaluare a Calității sau ai descoperit un truc, prompt sau fragment de cod util? Distribuie-l cu ceilalți membri ai comunității!
Fii primul care pune o întrebare sau distribuie un fragment de cod / prompt!
Nu au fost adăugate încă întrebări sau resurse pentru această pagină. Dacă ai testat un prompt sau ai un snippet util, adaugă-l mai jos pentru comunitate.