dexblog.ro
Acces rapid: Învață AI Învață Programare Specificații Dispozitive Comparații
COMFY Toate nodurile ComfyUI

Nodul Unet Loader (GGUF) din ComfyUI-GGUF în ComfyUI & Stable Diffusion / Flux

Modele de Difuzie și Inpainting Nivel: mediu

Pachetul custom ComfyUI-GGUF încarcă modele de difuzie și encodere T5 cuantizate în formatul GGUF, pentru a rula modele mari ca FLUX.1 cu mai puțină memorie video.

Intrări & ieșiri nod 
UnetLoaderGGUF(unet_name) -> MODEL        # „Unet Loader (GGUF)”, categoria bootleg

ComfyUI-GGUF (city96) adaugă suport pentru fișiere în formatul GGUF, popularizat de llama.cpp. README-ul spune că pachetul este încă în lucru și explică de ce funcționează: modelele UNET convoluționale suportă greu cuantizarea, dar modelele transformer / DiT, ca FLUX.1, sunt mai puțin afectate, deci pot rula cu mai puțini biți pe greutate pe plăci video modeste. Nodul principal, „Unet Loader (GGUF)”, înlocuiește Load Diffusion Model în orice workflow existent; nu trebuie copiat un workflow special.

Instalarea: git clone în ComfyUI/custom_nodes și pachetul Python gguf (pip install --upgrade gguf), sau prin Manager. Fișierele .gguf se pun în models/unet (codul le caută și în models/diffusion_models). Pentru T5 cuantizat există „CLIPLoader (GGUF)”, „DualCLIPLoader (GGUF)”, „TripleCLIPLoader (GGUF)” și „QuadrupleCLIPLoader (GGUF)”, care acceptă și fișierele safetensors obișnuite, deci clip_l rămâne cel de până acum. LoRA-urile se aplică experimental cu nodurile LoRA incluse în ComfyUI.

Pentru FLUX.1 [dev], repo-ul city96/FLUX.1-dev-gguf are fișiere de la Q2_K la Q8_0. Pe Hugging Face, de exemplu, flux1-dev-Q4_K_S.gguf are 6,81 GB, flux1-dev-Q5_K_S.gguf 8,29 GB, flux1-dev-Q8_0.gguf 12,71 GB, iar originalul F16 23,8 GB. Memoria video folosită efectiv depinde și de encodere, VAE și rezoluție. ComfyUI are și opțiuni fără noduri custom: weight_dtype fp8 în Load Diffusion Model și checkpointurile fp8.

Concepte cheie și caracteristici

Concept / Parametru Descriere practică
unet_name Fișierul .gguf din models/unet sau models/diffusion_models.
Unet Loader (GGUF/Advanced) Varianta cu dequant_dtype, patch_dtype și patch_on_device.
DualCLIPLoader (GGUF) Încarcă clip_l + T5 (GGUF sau safetensors) pentru FLUX.1.
gguf Singura dependență Python pentru inferență.
Q4_K_S / Q5_K_S / Q8_0 Niveluri de cuantizare: mai puțini biți = fișier mai mic și pierdere mai mare de calitate.

Exemple practice și scenarii reale

Exemplul 1: Instalare la Portable

git clone https://github.com/city96/ComfyUI-GGUF ComfyUI/custom_nodes/ComfyUI-GGUF
.\python_embeded\python.exe -s -m pip install -r .\ComfyUI\custom_nodes\ComfyUI-GGUF\requirements.txt

Exemplul 2: FLUX.1 [dev] cuantizat

models/unet/flux1-dev-Q4_K_S.gguf
models/text_encoders/clip_l.safetensors
models/text_encoders/t5-v1_1-xxl-encoder-Q5_K_M.gguf

Unet Loader (GGUF): flux1-dev-Q4_K_S.gguf -> KSampler.model
DualCLIPLoader (GGUF): clip_l.safetensors + t5-v1_1-xxl-encoder-Q5_K_M.gguf, type flux
Load VAE: ae.safetensors

Greșeli frecvente și capcane

  • Încarci un fișier .gguf cu Load Checkpoint sau Load Diffusion Model. Nodurile incluse nu citesc GGUF; folosește Unet Loader (GGUF).
  • Cuantizezi modelul de difuzie, dar lași T5 în fp16 pe placa video. Encoderul de text ocupă și el memorie; folosește un T5 GGUF sau fp8 ori ține-l pe CPU.
  • Cauți nodul în categoriile obișnuite. Nodurile ComfyUI-GGUF sunt în categoria bootleg.

Noțiuni și module înrudite