Împărțirea Setului de Date în Train și Validation (train_test_split) în Unsloth: Fine-Tuning LLM & Eficiență VRAM

Pentru a evalua dacă modelul a învățat concepte generalizabile sau doar a memorat mecanic răspunsurile din antrenare, este esențial să separăm un procent de 5-10% din mostre într-un set de testare (evaluare).

# Împărțire 90% antrenare și 10% validare
split_dataset = dataset.train_test_split(test_size=0.1, seed=3407)

train_data = split_dataset["train"]
eval_data  = split_dataset["test"]

print(f"Mostre antrenare: {len(train_data)} | Mostre validare: {len(eval_data)}")

Setul eval_data se transmite direct parametrului eval_dataset din antrenor pentru calculul regulat al metricii de pierdere pe date nevăzute.