Țintirea Selectivă a Matricilor de Atenție (q_proj & v_proj) în Unsloth: Fine-Tuning LLM & Eficiență VRAM

Pe GPU-uri cu memorie extrem de restrânsă (ex: plăci video de 6 GB sau 8 GB VRAM), puteți restricționa adaptorii LoRA exclusiv la matricile esențiale de atenție q_proj și v_proj.

# Configurație ultra-ușoară pentru GPU-uri mici
minimal_targets = ["q_proj", "v_proj"]

# Numărul de parametri antrenabili scade la doar ~0.1% din total
print("Ținte LoRA selectate:", minimal_targets)

Această configurație permite antrenarea fără probleme a unui model Llama 3 pe hardware modest, sacrificând doar o mică fracțiune din adaptabilitatea la sarcini foarte complexe.