Catastrophic Forgetting este tendința distructivă a rețelelor neuronale de a uita cunoștințele dobândite anterior atunci când sunt ajustate fin (fine-tuned) pe un domeniu îngust specific (cum ar fi doar generarea de cod medical sau formatare JSON).
Tehnici de prevenire a uitării catastrofale:
1. Replay Buffer / Data Mixing: Se amestecă un procent de 5-10% de date generale din setul
de pre-antrenare alături de noile exemple specializate în timpul fine-tuning-ului.
2. Regularizare prin penalizare KL (Kullback-Leibler): Păstrează distribuția probabilităților
cât mai aproape de modelul original de bază.
3. Utilizarea adaptoarelor PEFT / LoRA: Deoarece greutățile originale rămân înghețate (frozen),
baza masivă de cunoștințe este protejată integral împotriva alterării.Echilibru optim: Păstrează abilitățile universale de conversație în timp ce modelul devine expert într-un domeniu strict.
Întrebări & Discuții: Catastrophic Forgetting în LLM: Prevenirea Pierderii Cunoștințelor Anterioare
Ai o întrebare despre Catastrophic Forgetting în LLM: Prevenirea Pierderii Cunoștințelor Anterioare sau ai descoperit un truc, prompt sau fragment de cod util? Distribuie-l cu ceilalți membri ai comunității!
Fii primul care pune o întrebare sau distribuie un fragment de cod / prompt!
Nu au fost adăugate încă întrebări sau resurse pentru această pagină. Dacă ai testat un prompt sau ai un snippet util, adaugă-l mai jos pentru comunitate.