Platformele cloud gratuite precum Google Colab (Tesla T4 de 16 GB) și Kaggle (2x T4 de 16 GB) oferă resurse limitate de memorie VRAM. Unsloth permite rularea și antrenarea modelelor de 8 miliarde de parametri (Llama 3 8B, Qwen 2.5 7B) direct pe aceste instanțe fără erori de memorie (OOM).
În prima celulă a unui notebook Colab sau Kaggle se rulează configurarea fără dependențe redundante:
%%capture
# Instalare optimizată pentru Colab T4
!pip install --no-deps "unsloth[colab-new] @ git+https://github.com/unslothai/unsloth.git"
!pip install --no-deps "xformers<0.0.27" "trl<0.9.0" peft accelerate bitsandbytes tritonDupă rulare, notebook-ul este gata să încarce orice model cuantizat pe 4 biți cu un consum de sub 6 GB VRAM.
Întrebări & Exemple practice:
Configurarea Unsloth în Google Colab & KaggleAi o întrebare despre Configurarea Unsloth în Google Colab & Kaggle sau ai descoperit un truc, prompt sau fragment de cod util? Distribuie-l cu ceilalți membri ai comunității!
Fii primul care pune o întrebare sau distribuie un fragment de cod / prompt!
Nu au fost adăugate încă întrebări sau resurse pentru această pagină. Dacă ai testat un prompt sau ai un snippet util, adaugă-l mai jos pentru comunitate.