Organizația OWASP menține clasificarea oficială a celor mai periculoase vulnerabilități din aplicațiile bazate pe modele mari de limbaj:
- LLM01: Prompt Injection: Manipularea instrucțiunilor de sistem prin text introdus de atacator.
- LLM02: Insecure Output Handling: Execuția directă a ieșirilor LLM în comenzi SQL, shell sau cod JavaScript (XSS).
- LLM03: Training Data Poisoning: Alterarea datelor folosite la pre-antrenare sau RAG.
- LLM04: Model Denial of Service: Blocarea serverelor prin trimiterea de cereri cu generare masivă de context.
- LLM05: Supply Chain Vulnerabilities: Utilizarea de modele și pachete neverificate din hub-uri publice.
- LLM06: Sensitive Information Disclosure: Scurgerea de date confidențiale sau credențiale în răspuns.
Fiecare vulnerabilitate impune mecanisme de protecție specifice în straturile de intrare, execuție și validare finală.
Întrebări & Exemple practice:
OWASP Top 10 pentru LLM: Vulnerabilitățile Critice în Aplicații AIAi o întrebare despre OWASP Top 10 pentru LLM: Vulnerabilitățile Critice în Aplicații AI sau ai descoperit un truc, prompt sau fragment de cod util? Distribuie-l cu ceilalți membri ai comunității!
Fii primul care pune o întrebare sau distribuie un fragment de cod / prompt!
Nu au fost adăugate încă întrebări sau resurse pentru această pagină. Dacă ai testat un prompt sau ai un snippet util, adaugă-l mai jos pentru comunitate.