Monitorizarea Curbei de Pierdere în Weights & Biases (WandB) în Unsloth: Fine-Tuning LLM & Eficiență VRAM

Monitorizarea în consolă a sute de pași de antrenare este obositoare. Prin integrarea Weights & Biases (WandB), primiți grafice interactive live cu pierderea de antrenare, pierderea de validare, rata de învățare și temperatura GPU.

import wandb

# Inițializare sesiune WandB
wandb.init(project="llama-3-unsloth-experiment", name="run-lora-r16-lr2e4")

# În TrainingArguments setați:
# report_to = "wandb"

Puteți partaja linkul tabloului de bord cu echipa pentru a compara performanța diferitelor încercări.