OWASP Top 10 for Large Language Model Applications este clasificarea de securitate de referință creată de comunitatea globală de specialiști în securitate cibernetică pentru a evidenția cele mai periculoase vulnerabilități din aplicațiile care integrează LLM-uri.
Topul vulnerabilităților critice OWASP LLM:
LLM01: Prompt Injection (Direct și Indirect)
LLM02: Insecure Output Handling (XSS, execuție de cod prin comenzi nesanitizate)
LLM03: Training Data Poisoning (Otrăvirea datelor de antrenare)
LLM04: Model Denial of Service (Consum masiv de resurse prin contexte gigantice)
LLM05: Supply Chain Vulnerabilities (Pachete compromise pe PyPI sau modele de pe HuggingFace)
LLM06: Sensitive Information Disclosure (Scurgerea de PII sau secrete corporative)
LLM07: Insecure Plugin Design (Permisiuni excesive acordate uneltelor)
LLM08: Excessive Agency (Agenți care execută acțiuni fără confirmare)
LLM09: Overreliance (Dependență oarbă de răspunsurile AI neverificate)
LLM10: Model Theft (Exfiltrarea sau clonarea ponderilor modelului)Checklist esențial: Baza oricărui audit de securitate aplicat înainte de lansarea unei aplicații bazate pe LLM.
Întrebări & Discuții: OWASP Top 10 pentru LLM: Cele Mai Critice Vulnerabilități în Aplicațiile Generative
Ai o întrebare despre OWASP Top 10 pentru LLM: Cele Mai Critice Vulnerabilități în Aplicațiile Generative sau ai descoperit un truc, prompt sau fragment de cod util? Distribuie-l cu ceilalți membri ai comunității!
Fii primul care pune o întrebare sau distribuie un fragment de cod / prompt!
Nu au fost adăugate încă întrebări sau resurse pentru această pagină. Dacă ai testat un prompt sau ai un snippet util, adaugă-l mai jos pentru comunitate.