Configurarea Directorului de Cache HF_HOME pe Discuri Secundare în Unsloth: Fine-Tuning LLM & Eficiență VRAM

Modelele LLM au dimensiuni mari (între 5 GB și 40 GB per checkpoint). Pe serverele de calcul, partiția principală de sistem (root /) poate rămâne fără spațiu dacă descărcările se fac în directorul implicit ~/.cache/huggingface.

import os

# Setare director cache pe un SSD dedicat de mare viteză
custom_cache = "/mnt/nvme_storage/huggingface_cache"
os.makedirs(custom_cache, exist_ok=True)
os.environ["HF_HOME"] = custom_cache

print(f"Director cache configurat la: {os.environ['HF_HOME']}")

Setarea acestei variabile înainte de orice apel from_pretrained asigură descărcarea tuturor fișierelor pe discul rapid specificat.