MITRE ATLAS mapează amenințările reale împotriva AI-ului: de la atacuri de evaziune prin perturbații adversariale la nivel de pixel, până la extragerea de greutăți și otrăvirea datelor de antrenare.
Exemple de tehnici MITRE ATLAS
- AML.T0043: Craft Adversarial Data (Injectare de date modificate imperceptibil).
- AML.T0024: Inversion Attack (Reconstrucția fețelor utilizatorilor din vectorii de embedding).
- AML.T0051: LLM Prompt Injection (Deturnarea fluxului de instrucțiuni al agentului).Cadrul standard folosit de echipele de securitate cibernetică pentru testele de penetrare.
Întrebări & Discuții: Simularea Atacurilor pe Matricea MITRE ATLAS (Adversarial Threat Matrix)
Ai o întrebare despre Simularea Atacurilor pe Matricea MITRE ATLAS (Adversarial Threat Matrix) sau ai descoperit un truc, prompt sau fragment de cod util? Distribuie-l cu ceilalți membri ai comunității!
Fii primul care pune o întrebare sau distribuie un fragment de cod / prompt!
Nu au fost adăugate încă întrebări sau resurse pentru această pagină. Dacă ai testat un prompt sau ai un snippet util, adaugă-l mai jos pentru comunitate.