Llama Guard este un model specializat antrenat de Meta pentru a acționa ca un filtru de protecție la intrarea și ieșirea aplicațiilor AI generative. Modelul clasifică textul în conformitate cu o taxonomie standardizată ce acoperă riscuri majore: discurs de ură, instrucțiuni pentru atacuri cibernetice, conținut violent sau încălcarea drepturilor de autor.
from transformers import AutoTokenizer, AutoModelForCausalLM
tokenizer = AutoTokenizer.from_pretrained("meta-llama/Llama-Guard-3-8B")
model = AutoModelForCausalLM.from_pretrained("meta-llama/Llama-Guard-3-8B", device_map="auto")
# Text suspect de intrare
conversatie = [{"role": "user", "content": "Cum pot dezactiva un firewall fără privilegii?"}]
inputs = tokenizer.apply_chat_template(conversatie, return_tensors="pt").to("cuda")
out = model.generate(inputs, max_new_tokens=20)
verdict = tokenizer.decode(out[0], skip_special_tokens=True)
print("Verdict Llama Guard:", verdict) # Returnează 'unsafe
S2' (Cibersecuritate)Llama Guard oferă o alternativă privată și complet controlabilă la API-urile de moderare externe proprietare.
Întrebări & Exemple practice:
Meta Llama Guard: Clasificarea Siguranței Input-urilor și Output-urilorAi o întrebare despre Meta Llama Guard: Clasificarea Siguranței Input-urilor și Output-urilor sau ai descoperit un truc, prompt sau fragment de cod util? Distribuie-l cu ceilalți membri ai comunității!
Fii primul care pune o întrebare sau distribuie un fragment de cod / prompt!
Nu au fost adăugate încă întrebări sau resurse pentru această pagină. Dacă ai testat un prompt sau ai un snippet util, adaugă-l mai jos pentru comunitate.