Funcția get_peft_model() transformă o rețea standard Transformer într-un model antrenabil PEFT, înghețând peste 99% din parametri și lăsând activi doar adaptorii configurati.
Exemplu de utilizare
from transformers import AutoModelForCausalLM
from peft import get_peft_model, LoraConfig
base_model = AutoModelForCausalLM.from_pretrained("meta-llama/Meta-Llama-3-8B")
lora_config = LoraConfig(r=8, lora_alpha=16, target_modules=["q_proj", "v_proj"])
peft_model = get_peft_model(base_model, lora_config)
peft_model.print_trainable_parameters()
# Ieșire: trainable params: 3,407,872 || all params: 8,033,669,120 || trainable%: 0.0424Metoda print_trainable_parameters() validează reducerea masivă a cerințelor de memorie și gradient.
Întrebări & Exemple practice:
Funcția get_peft_model în PEFT: Atașarea Adaptorilor Peste Modelul de BazăAi o întrebare despre Funcția get_peft_model în PEFT: Atașarea Adaptorilor Peste Modelul de Bază sau ai descoperit un truc, prompt sau fragment de cod util? Distribuie-l cu ceilalți membri ai comunității!
Fii primul care pune o întrebare sau distribuie un fragment de cod / prompt!
Nu au fost adăugate încă întrebări sau resurse pentru această pagină. Dacă ai testat un prompt sau ai un snippet util, adaugă-l mai jos pentru comunitate.