Cercetările arată că ordinea în care sunt prezentate exemplele într-un prompt Few-Shot influențează dramatic calitatea generării. Modelele suferă de Recency Bias, tinzând să imite preponderent formatul și eticheta ultimului exemplu demonstrat.
Bune practici pentru aranjarea exemplelor Few-Shot:
1. Echilibru de clase la final: Nu plasați consecutiv mai multe exemple pozitive la final,
altfel modelul va tinde să clasifice orice nouă intrare ca pozitivă.
2. Ordonare după similaritate: Plasați exemplul cel mai asemănător cu problema curentă
chiar pe ultima poziție din lista Few-Shot (chiar înainte de întrebare).
3. Testarea permutărilor: Testați 3-4 permutări ale ordinii exemplelor pe un set de validare.Câștig gratuit: O simplă rearanjare a exemplelor existente poate spori acuratețea cu 10-20% fără costuri suplimentare de tokeni.
Întrebări & Discuții: Ordinea Demonstrațiilor în Few-Shot: Impactul Bias-ului de Recență
Ai o întrebare despre Ordinea Demonstrațiilor în Few-Shot: Impactul Bias-ului de Recență sau ai descoperit un truc, prompt sau fragment de cod util? Distribuie-l cu ceilalți membri ai comunității!
Fii primul care pune o întrebare sau distribuie un fragment de cod / prompt!
Nu au fost adăugate încă întrebări sau resurse pentru această pagină. Dacă ai testat un prompt sau ai un snippet util, adaugă-l mai jos pentru comunitate.