Modelarea amenințărilor în sistemele generative presupune maparea tuturor punctelor prin care date nesigure pot intra în contact cu promptul principal:
Zone de risc analizate de echipa Red Team:
1. Câmpuri libere de chat introduse de vizitatori anonimi
2. Documente PDF încărcate pentru procesare RAG (Indirect Injection)
3. Răspunsuri primite de la API-uri terțe apelate de agenți
4. Modul în care asistentul gestionează comenzi contradictoriiTestarea continuă garantează că filtrele rămân eficiente împotriva tehnicilor noi de eludare a siguranței.
Întrebări & Exemple practice:
Modelarea Amenințărilor și Echipe de Red TeamingAi o întrebare despre Modelarea Amenințărilor și Echipe de Red Teaming sau ai descoperit un truc, prompt sau fragment de cod util? Distribuie-l cu ceilalți membri ai comunității!
Fii primul care pune o întrebare sau distribuie un fragment de cod / prompt!
Nu au fost adăugate încă întrebări sau resurse pentru această pagină. Dacă ai testat un prompt sau ai un snippet util, adaugă-l mai jos pentru comunitate.