ComfyUI не запускается ошибка CUDA out of memory как исправить

[ivan_omega30]

Поставил ComfyUI на видеокарту RTX 3060 (12 GB VRAM), пытаюсь запустить воркфлоу с SDXL-моделью — вылетает с ошибкой torch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate 2.00 GiB. Запускаю через python main.py, никаких дополнительных флагов не ставил. Что делать? Уже несколько часов бьюсь.

[coredata6336]

Попробуй запустить с флагом --lowvram или --medvram — это первое что надо сделать при 12 GB с SDXL. Команда: python main.py --lowvram. У меня на 3060 Ti помогло, генерация чуть медленнее, но зато работает без крашей.

[vera_data]

12 гигов должно хватать на SDXL в принципе, но проблема часто в том, что параллельно жрут VRAM другие приложения — браузер с кучей вкладок, Discord с аппаратным ускорением и т.д. Закрой всё лишнее и попробуй снова без lowvram, разница в скорости заметная.

[appdaemon9597]

Самое полное решение: сначала убедись что у тебя актуальная версия PyTorch с поддержкой CUDA — команда python -c "import torch; print(torch.version.cuda)" покажет версию. Если там None — PyTorch установлен без CUDA-поддержки и никакие флаги не помогут. Переустанавливай через pip install torch torchvision --index-url https://download.pytorch.org/whl/cu121 (для CUDA 12.1, подбери под свою версию драйвера). Если CUDA есть, но память всё равно кончается — добавь --lowvram и в настройках воркфлоу убери VAE decode в отдельный шаг, это экономит несколько гигабайт пиковой нагрузки. Ещё помогает включить опцию 'Disable upcasting of attention' в настройках ComfyUI если используешь кастомные ноды. При SDXL с батчем 1 и разрешением 1024x1024 реальное потребление около 8-9 GB, должно укладываться.

[svetlana_js]

У меня была похожая ситуация — оказалось, что в диспетчере задач Windows VRAM показывала меньше чем есть, потому что часть была зарезервирована системой. Лечится через реестр: HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Control\GraphicsDrivers, добавить TdrLevel = 0 типа DWORD. Не панацея, но иногда помогает при случайных вылетах.

[artem_ops]

Ещё момент: если используешь модели с fp32 весами вместо fp16 — это в два раза больший расход памяти. Скачивай модели с пометкой fp16 или safetensors, они намного экономичнее. На civitai почти все нормальные модели уже идут в fp16.