Clasa SFTTrainer (Supervised Fine-tuning Trainer) din biblioteca Hugging Face TRL (Transformer Reinforcement Learning) este motorul de antrenare recomandat. Unsloth modifică dinamic această clasă pentru a utiliza nucleele sale accelerate.
from trl import SFTTrainer
from transformers import TrainingArguments
trainer = SFTTrainer(
model=model,
tokenizer=tokenizer,
train_dataset=dataset,
dataset_text_field="text",
max_seq_length=2048,
dataset_num_proc=2,
packing=False,
args=TrainingArguments(
per_device_train_batch_size=2,
gradient_accumulation_steps=4,
warmup_steps=5,
max_steps=60,
learning_rate=2e-4,
fp16=not is_bfloat16_supported(),
bf16=is_bfloat16_supported(),
logging_steps=1,
optim="adamw_8bit",
weight_decay=0.01,
lr_scheduler_type="linear",
seed=3407,
output_dir="outputs",
),
)Apelul trainer.train() declanșează bucla de propagare înainte, calcul de pierdere și ajustare de gradienți pe GPU.
Întrebări & Exemple practice:
Inițializarea Antrenorului SFTTrainer din Biblioteca TRLAi o întrebare despre Inițializarea Antrenorului SFTTrainer din Biblioteca TRL sau ai descoperit un truc, prompt sau fragment de cod util? Distribuie-l cu ceilalți membri ai comunității!
Fii primul care pune o întrebare sau distribuie un fragment de cod / prompt!
Nu au fost adăugate încă întrebări sau resurse pentru această pagină. Dacă ai testat un prompt sau ai un snippet util, adaugă-l mai jos pentru comunitate.