Atacurile de Inversare a Modelului permit reconstituirea datelor de intrare (cum ar fi chipurile persoanelor folosite la antrenare) pornind doar de la predicțiile modelului, în timp ce Model Extraction fură proprietatea intelectuală a unui model comercial prin interogarea repetată a API-ului și antrenarea unei replici (Surrogate Model).
Mecanismul de clonare prin Model Extraction:
1. Atacatorul trimite 500.000 de întrebări sintetice către API-ul modelului țintă.
2. Colectează răspunsurile generate de model (distilare neautorizată).
3. Antrenează un model open-source mai mic pe aceste perechi întrebare-răspuns.
4. Obține un model clonă cu performanțe aproape identice la o fracțiune din costul de R&D.Protecție activă: Rate limiting inteligent, detectarea distribuțiilor sintetice de interogări și marcarea răspunsurilor cu watermark invizibil.
Întrebări & Discuții: Atacuri de Inversare și Extragere a Modelului (Model Extraction)
Ai o întrebare despre Atacuri de Inversare și Extragere a Modelului (Model Extraction) sau ai descoperit un truc, prompt sau fragment de cod util? Distribuie-l cu ceilalți membri ai comunității!
Fii primul care pune o întrebare sau distribuie un fragment de cod / prompt!
Nu au fost adăugate încă întrebări sau resurse pentru această pagină. Dacă ai testat un prompt sau ai un snippet util, adaugă-l mai jos pentru comunitate.