Reward Model (RM) este o rețea neuronală derivată din modelul de bază, dar a cărei ultimă căpușă (LM Head) este înlocuită cu un strat de regresie care emite un singur număr real scalar (scorul de calitate al răspunsului).
# Modelul de recompensă primește un prompt și un răspuns și returnează un scor:
# scor = RewardModel(prompt, completion)
# Funcția de pierdere Bradley-Terry:
# Dacă un om a preferat răspunsul A în fața răspunsului B, modelul este penalizat
# dacă scorul pentru A nu este considerabil mai mare decât scorul pentru B:
loss = -torch.log(torch.sigmoid(scor_ales - scor_respins)).mean()Reward Hacking: Fenomenul prin care modelul antrenat descoperă formulări superficiale (lungime mare, ton excesiv de politicos) care păcălesc modelul de recompensă.
Întrebări & Discuții: Reward Modeling (RM) în LLM: Antrenarea Modelului Critic de Preferințe
Ai o întrebare despre Reward Modeling (RM) în LLM: Antrenarea Modelului Critic de Preferințe sau ai descoperit un truc, prompt sau fragment de cod util? Distribuie-l cu ceilalți membri ai comunității!
Fii primul care pune o întrebare sau distribuie un fragment de cod / prompt!
Nu au fost adăugate încă întrebări sau resurse pentru această pagină. Dacă ai testat un prompt sau ai un snippet util, adaugă-l mai jos pentru comunitate.