Pentru a construi apărări solide este necesară înțelegerea modului în care funcționează atacurile moderne de jailbreak: Tree of Attacks (TAP) folosește un agent atacator care optimizează euristic prompturile ostile, iar Crescendo manipulează modelul subtil pe parcursul mai multor replici aparent inofensive.
Mecanismul atacului Crescendo (Multi-turn):
Pas 1: Întrebare inofensivă despre istoria fabricării sticlei.
Pas 2: Întrebare despre reacțiile chimice exoterme în laborator.
Pas 3: Întrebare despre substanțe casnice reactive.
...
Pas N: Modelul ajunge să dezvăluie o rețetă periculoasă fără a declanșa barierele
de siguranță dintr-o singură tură (Single-turn Guardrails).Evaluare de securitate: Înțelegerea acestor vectori stă la baza configurării sistemelor de tip Llama Guard și NeMo Guardrails.
Întrebări & Discuții: Tehnici de Atac Red-Teaming: Tree of Attacks (TAP), Crescendo și DAN
Ai o întrebare despre Tehnici de Atac Red-Teaming: Tree of Attacks (TAP), Crescendo și DAN sau ai descoperit un truc, prompt sau fragment de cod util? Distribuie-l cu ceilalți membri ai comunității!
Fii primul care pune o întrebare sau distribuie un fragment de cod / prompt!
Nu au fost adăugate încă întrebări sau resurse pentru această pagină. Dacă ai testat un prompt sau ai un snippet util, adaugă-l mai jos pentru comunitate.