Machine Unlearning reprezintă procesul chirurgical de eliminare a cunoștințelor specifice dintr-un model mare deja antrenat (date cu caracter personal GDPR, coduri sursă protejate de drepturi de autor, informații periculoase) fără a fi necesară re-antrenarea de la zero.
Tehnici principale de Unlearning:
1. Gradient Ascent pe setul de uitat (Forget Set): inversează direcția optimizării pentru
a maximiza pierderea pe textele ce trebuie șterse.
2. Păstrarea cunoștințelor generale (Retain Set): aplică o constrângere KL pentru ca modelul
să nu își piardă abilitățile de raționament, gramatică și matematică.
3. Editare de ponderi prin ROME (Rank-One Model Editing): localizează straturile exacte FFN
unde este memorat un fapt și modifică direct ponderile asociate.Conformitate legală: Esențial pentru respectarea reglementărilor internaționale privind protecția datelor (GDPR, EU AI Act).
Întrebări & Discuții: Machine Unlearning în LLM: Ștergerea Selectivă a Cunoștințelor și Dreptul de a fi Uitat
Ai o întrebare despre Machine Unlearning în LLM: Ștergerea Selectivă a Cunoștințelor și Dreptul de a fi Uitat sau ai descoperit un truc, prompt sau fragment de cod util? Distribuie-l cu ceilalți membri ai comunității!
Fii primul care pune o întrebare sau distribuie un fragment de cod / prompt!
Nu au fost adăugate încă întrebări sau resurse pentru această pagină. Dacă ai testat un prompt sau ai un snippet util, adaugă-l mai jos pentru comunitate.