Clasa Accelerator în Hugging Face Accelerate: Distribuirea Execuției Multi-GPU și Mixed Precision în Hugging Face Hub & Transformers

Orchestrarea automată a antrenării pe CPU, GPU singular, Multi-GPU (DDP/FSDP) și TPU fără rescrierea codului de bază.

Sintaxă & invocare Python
from accelerate import Accelerator
accelerator = Accelerator(mixed_precision='bf16')

Clasa centrală Accelerator abstractizează diferențele de hardware, gestionând plasarea tensorilor pe dispozitive, conversia la precizie mixtă (FP16/BF16) și sincronizarea proceselor distribuite.

Exemplu de utilizare

from accelerate import Accelerator
import torch

accelerator = Accelerator(mixed_precision="fp16")
device = accelerator.device

# Codul de antrenare rulează transparent pe orice arhitectură
print(f"Rulează pe dispozitivul: {device}")

Permite rularea aceluiași script atât pe un laptop cu CPU cât și pe un cluster cu 8 plăci H100.

Învață AI • Comunitate & Q&A

Întrebări & Exemple practice: Clasa Accelerator în Hugging Face Accelerate: Distribuirea Execuției Multi-GPU și Mixed Precision

Ai o întrebare despre Clasa Accelerator în Hugging Face Accelerate: Distribuirea Execuției Multi-GPU și Mixed Precision sau ai descoperit un truc, prompt sau fragment de cod util? Distribuie-l cu ceilalți membri ai comunității!

🤖

Fii primul care pune o întrebare sau distribuie un fragment de cod / prompt!

Nu au fost adăugate încă întrebări sau resurse pentru această pagină. Dacă ai testat un prompt sau ai un snippet util, adaugă-l mai jos pentru comunitate.

Comunitate AI Adaugă o întrebare sau distribuie un cod / prompt

Moderare & Siguranță:

Pentru a menține calitatea și securitatea informațiilor, fiecare întrebare sau fragment de cod/prompt este analizat (manual sau prin moderare asistată de AI) înainte de publicare.