ComfyUI на RTX 5060 Ti: как запустить генерацию изображений на Blackwell sm_120

Введение

Когда NVIDIA выпустила RTX 5060 Ti на новой архитектуре Blackwell, казалось, что всё будет работать «из коробки». На практике оказалось иначе: вычислительная способность sm_120 (compute capability 12.0) оказалась не поддерживаемой в предкомпилированных CUDA-ядрах большинства инструментов для генерации изображений. В этой статье я расскажу о реальном опыте настройки ComfyUI с SDXL на RTX 5060 Ti — от первой ошибки до работающего пайплайна генерации иллюстраций для блога.

Железо

Рабочая станция, на которой проходили все эксперименты:

• CPU: Intel Core i5-12600K (12-е поколение)

• GPU: NVIDIA GeForce RTX 5060 Ti, 8 ГБ GDDR7, Blackwell (sm_120)

• Материнская плата: MSI PRO Z690-P DDR4

• ОЗУ: 32 ГБ DDR4-3200 (4 × 8 ГБ Team Group)

• Накопители: Apacer AS2280P4 1 ТБ (NVMe), ADATA LEGEND 710 512 ГБ (NVMe), Patriot P220 1 ТБ (NVMe), HDD 1.5 ТБ + 2 ТБ

• ОС: Windows 10 Pro

• Драйвер NVIDIA: 32.0.16.1047

Проблема sm_120

Суть проблемы проста: PyTorch и связанные с ним библиотеки (comfy-aimdo, comfy-kitchen) распространяются с предкомпилированными CUDA-ядрами для определённых архитектур GPU. RTX 5060 Ti использует архитектуру Blackwell с compute capability 12.0 (sm_120), и до недавнего времени ни одна публичная сборка PyTorch не включала ядра для этой архитектуры.

Первая попытка запустить ComfyUI с «родным» PyTorch cu124 завершилась ошибкой:

CUDA error: no kernel image is available for execution on the device

Эта ошибка означает, что CUDA-драйвер не нашёл скомпилированное ядро для sm_120 в загруженном бинарнике. Проблема не в коде — проблема в отсутствии нужного ядра в предкомпилированной библиотеке.

Попытка 1: PyTorch cu128 nightly

Первым шагом был переход на nightly-сборку PyTorch с CUDA 12.8:

pip install --pre torch --index-url https://download.pytorch.org/whl/nightly/cu128

Результат — та же ошибка. Nightly cu128 всё ещё не включал sm_120.

Попытка 2: PyTorch cu130 nightly

Следующая nightly-сборка с CUDA 13.0 (версия 2.14.0.dev20260722) уже содержала базовую поддержку sm_120. Проверка:

python -c "import torch; x = torch.ones(3, device='cuda'); print(x)"

Тензоры на GPU работали. Но ComfyUI всё ещё падал — теперь уже на уровне C-расширений comfy-aimdo и comfy-kitchen, которые имеют свои собственные предкомпилированные CUDA-ядра без поддержки sm_120.

Попытка 3: Отключение comfy-aimdo

comfy-aimdo — это библиотека для оптимизации VRAM через C-level CUDA detour hooks. Она не критична для базовой работы. Решение — закомментировать все упоминания в main.py:

# import comfy_aimdo.control
# comfy_aimdo.control.init()

Также был закомментирован блок DynamicVRAM, который использует comfy_aimdo для динамического управления памятью.

Попытка 4: Отключение CUDA-бэкенда comfy-kitchen

comfy-kitchen — более сложная библиотека, которая предоставляет квантование и оптимизации. У неё есть предкомпилированный CUDA-бэкенд в виде _C.abi3.pyd. Решение — переименовать файл:

_C.abi3.pyd → _C.abi3.pyd.disabled

Это заставило comfy-kitchen использовать eager-бэкенд (чистый Python/PyTorch) вместо предкомпилированных CUDA-ядер.

Попытка 5: EasyDiffusion и Fooocus

Параллельно были проверены альтернативные интерфейсы:

• EasyDiffusion — использует Python 3.9 и старый PyTorch, откатился на CPU. Не подходит.

• Fooocus — удобный интерфейс, но нет REST API для автоматизации. Плюс те же проблемы с sm_120 в предкомпилированных ядрах.

Рабочее решение

Комбинация всех предыдущих шагов дала результат:

1. PyTorch cu130 nightly (2.14.0.dev20260722) — базовая поддержка sm_120

2. comfy-aimdo отключён (закомментирован в main.py)

3. comfy-kitchen CUDA-бэкенд отключён (переименован _C.abi3.pyd)

4. ComfyUI 0.28.0 с SDXL 1.0

После этого генерация изображений заработала. Время генерации одного изображения 1024×512 при 20 шагах — около 30-60 секунд.

Настройка пайплайна генерации

Для интеграции с рабочим процессом блога был создан скрипт generate_image.py, который через REST API ComfyUI генерирует иллюстрации по текстовому промпту:

python generate_image.py "digital illustration of AI robot, modern tech style, blue and purple gradient" --output output.png

ComfyUI запускается как сервер на порту 8188:

python main.py --listen 0.0.0.0 --port 8188 --disable-metadata

Локальные LLM — без облачных моделей

Важный аспект этого проекта: весь рабочий процесс — от написания кода до генерации изображений — работает на локальных моделях. Форк Claude Code, который использовался для разработки, работал исключительно на двух локальных LLM:

• qwen3.6-27b-nvfp4-mtp — модель с поддержкой NVFP4 и Multi-Token Prediction, оптимизированная для NVIDIA GPU

• qwopus3.6-27b-q6 — Qwopus3.6-27B-Coder-MTP в квантовании Q6_K, 27 миллиардов параметров

Использование облачных моделей (OpenAI, Anthropic, Google) не потребовалось. Это означает:

• Полная автономность — работа без интернета

• Нулевая стоимость за токены

• Отсутствие ограничений по количеству запросов

• Конфиденциальность — код и данные не покидают машину

27-миллиардные модели в квантовании Q6_K помещаются в 8 ГБ VRAM RTX 5060 Ti, что делает возможным полноценную работу с ИИ-ассистентом на потребительском железе.

Стили промптов для блога

SDXL 1.0 — универсальная модель, которая хорошо работает с разными стилями. Вот шаблоны, которые используются для генерации иллюстраций к статьям:

Технологии / ИИ

digital illustration of [тема], modern tech style, clean lines, blue and purple gradient, isometric, blog header image, high quality, detailed

Бизнес / Аналитика

professional illustration of [тема], flat design, corporate colors, clean composition, infographic style, blog header

Абстрактный / Креативный

creative abstract illustration of [тема], vibrant colors, geometric shapes, modern art style, dynamic composition, blog header

Итоги

Запуск генерации изображений на RTX 5060 Ti потребовал нескольких итераций, но результат — полностью автономный пайплайн:

• Локальная генерация изображений через ComfyUI + SDXL

• Локальные LLM для работы с кодом и текстом

• Нулевая зависимость от облачных сервисов

• Всё работает на одном компьютере с 8 ГБ VRAM

Главный урок: новая архитектура GPU (Blackwell, sm_120) требует ожидания поддержки в экосистеме. Nightly-сборки PyTorch — рабочий обходной путь, но стабильная поддержка придёт с официальными релизами.

Источники

• ComfyUI на GitHub — основной репозиторий

• PyTorch Nightly Builds — nightly-сборки с CUDA 13.0

• SDXL 1.0 на HuggingFace — модель для генерации

• ComfyUI Issues — обсуждение проблем с новыми GPU