Блог AST-SoftPro
Claude Code на локальной модели: форк, который работает наравне с Cursor
Введение
Claude Code — это официальный CLI-инструмент от Anthropic, представляющий собой AI-ассистента для разработки прямо в терминале. Но что если запустить его не на облачных моделях Anthropic, а на локальной открытой модели? Именно это и делает форк claude-code-local-runner — адаптация, которая позволяет работать с Claude Code на локальных LLM через LM Studio и другие провайдеры.
В этой статье мы разберём архитектуру проекта, ключевые возможности и покажем, как локальная модель Qwopus3.6-27B-Coder-MTP позволяет использовать этот форк наравне с коммерческими редакторами вроде Cursor.
Что такое Claude Code
Claude Code — это AI-инструмент для разработки, работающий в терминале. Он предоставляет интерактивный REPL (Read-Eval-Print Loop), в котором разработчик может общаться с AI на естественном языке, а AI — выполнять реальные действия: читать и писать файлы, запускать команды, искать по коду, управлять задачами и даже порождать под-агентов.
Официальная версия работает через API Anthropic (модели Claude). Форк claude-code-local-runner расширяет эту архитектуру, добавляя поддержку локальных моделей через OpenAI-compatible API — в первую очередь LM Studio.
Архитектура проекта
Проект написан на TypeScript и использует Bun в качестве рантайма. Точка входа — main.tsx, который инициализирует приложение и запускает REPL-цикл.
Система инструментов
Сердце Claude Code — это система инструментов в директории /tools. На данный момент проект включает более 40 инструментов:
| Инструмент | Назначение |
|---|---|
| BashTool | Выполнение bash-команд |
| PowerShellTool | Выполнение PowerShell-команд |
| FileReadTool | Чтение файлов |
| FileWriteTool | Запись файлов |
| FileEditTool | Редактирование файлов |
| GlobTool | Поиск файлов по паттернам |
| GrepTool | Поиск по содержимому файлов |
| WebFetchTool | Загрузка веб-страниц |
| WebSearchTool | Веб-поиск |
| AgentTool | Порождение под-агентов |
| MCPTool | Работа с MCP-серверами |
| SkillTool | Выполнение пользовательских скиллов |
| TaskCreateTool | Создание задач |
| NotebookEditTool | Редактирование Jupyter-ноутбуков |
Каждый инструмент имеет схему JSON Schema и реализацию, что позволяет AI-модели корректно вызывать их с правильными параметрами.
Мульти-агентная оркестрация
Одна из самых мощных возможностей — система мульти-агентной оркестрации в директории /coordinator. При включении через переменную CLAUDE_CODE_COORDINATOR_MODE=1 Claude Code переходит из режима одиночного агента в режим координатора, управляющего несколькими рабочими агентами.
Процесс проходит через четыре фазы:
-
Research — параллельные рабочие агенты исследуют кодовую базу
-
Synthesis — координатор синтезирует результаты
-
Implementation — рабочие агенты реализуют изменения
-
Verification — проверка корректности изменений
Агенты общаются через XML-сообщения <task-notification> и используют общую директорию scratchpad для обмена знаниями.
Система памяти и снов
Директория /services/autoDream содержит фоновый движок консолидации памяти. Это система, которая работает как отдельный под-агент и периодически:
-
Ориентируется — понимает текущее состояние проекта
-
Собирает сигнал — анализирует недавние изменения
-
Консолидирует — создаёт устойчивые записи памяти
-
Прune и индексирует — удаляет устаревшую информацию
Результат сохраняется в /memory как MEMORY.md и тематические файлы, что ускоряет работу в будущих сессиях.
Флаги функций
Проект использует систему compile-time флагов через Bun's feature() функцию, которая позволяет удалять неиспользуемый код на этапе сборки. Ключевые флаги:
-
PROACTIVE / KAIROS — режим постоянного проактивного ассистента
-
COORDINATOR_MODE — мульти-агентная оркестрация
-
BUDDY — компаньон-питомец в стиле тамагочи
-
TRANSCRIPT_CLASSIFIER — классификация транскриптов
-
VOICE_MODE — голосовой режим
-
WORKFLOW_SCRIPTS — скрипты рабочих процессов
Система разрешений
Безопасность реализована через систему разрешений с классификацией рисков (LOW / MEDIUM / HIGH) и ML-классификатором YOLO для автоматической оценки безопасности действий.
Qwopus3.6-27B-Coder-MTP: локальная модель для агентов
Теперь перейдём к модели, на которой работает этот форк — Qwopus3.6-27B-Coder-MTP-GGUF от Jackrong.
Что это за модель
Qwopus3.6-27B-Coder — это reasoning-enhanced модель, дообученная на базе Qwopus3.6-27B-v2, которая в свою очередь построена на Qwen3.6-27B. Модель специализируется на:
-
Агентной генерации кода
-
Структурированном вызове инструментов (tool calling)
-
Дебаггинге
-
Следовании инструкциям в рабочих процессах разработчика
Архитектура обучения
Обучение проходило в три этапа с использованием curriculum learning:
-
Фаза 1: Format Inception — обучение на коротких контекстах (до 4096 токенов) для формирования стабильного формата
-
Фаза 2: Agent/Coding Expansion — расширение на 4096–8192 токенов с tool traces и задачами кодирования
-
Фаза 3: Long-Context SFT — работа с длинными контекстами (8192–32K токенов) для многошаговых диалогов и replay
Мультитокенное предсказание (MTP)
Ключевая особенность версии MTP — Multi-Token Prediction. Вместо генерации одного токена за шаг, модель предсказывает несколько токенов одновременно. Это не отдельная модель для speculative decoding — draft-головы встроены в тот же GGUF.
Результаты на RTX 4090 впечатляют:
| Метрика | Без MTP | С MTP |
|---|---|---|
| Средняя скорость | ~44 tok/s | ~87 tok/s |
| Пиковая скорость | — | 97.8 tok/s |
| Ускорение | — | 1.98x |
При этом качество вывода остаётся идентичным — верификатор гарантирует одинаковый результат с greedy decoding.
Результаты бенчмарков
Базовая модель Qwopus3.6-27B-v2 показала:
-
87.43% на MMLU-Pro
-
75.25% на SWE-bench Verified
Версия Coder в режиме без thinking на полном SWE-bench Verified (500 задач) решила 335/500 = 67.0% в формате Q5_K_M GGUF.
Размер и квантование
Модель доступна в формате GGUF с различными уровнями квантования. Q6_K обеспечивает отличное качество при умеренных требованиях к памяти, что делает её подходящей для работы на потребительском оборудовании с одной GPU.
Почему это работает наравне с Cursor
Cursor — это коммерческий редактор кода с встроенным AI, который использует API Anthropic, OpenAI и Google. Он удобен, но платный и зависим от облачных сервисов.
Форк Claude Code на локальной модели предлагает альтернативу, которая в реальной работе не уступает:
Преимущества локального подхода
-
Полная приватность — код не покидает локальную машину. Это критично для коммерческих проектов, где NDA и политика безопасности запрещают передачу кода в облако.
-
Отсутствие ограничений по токенам — нет rate-limits, нет дневных лимитов, нет необходимости ждать очереди.
-
Стоимость — после разовых затрат на GPU модель работает бесплатно. Cursor стоит от $20/месяц, Claude Code от Anthropic — от $20/месяц за Pro-подписку.
-
Работа без интернета — полная автономность. Можно работать в самолёте, в поезде, в месте без связи.
-
40+ инструментов — Claude Code с его системой инструментов (bash, файловые операции, поиск, веб, агенты) не уступает по функциональности встроенному AI в Cursor.
-
Мульти-агентная оркестрация — возможность параллельно запускать несколько агентов для исследования кодовой базы — это функция, которой нет в Cursor.
-
Система памяти — автоконсолидация знаний о проекте между сессиями через autoDream.
Честная оценка
Конечно, есть и различия:
-
Скорость — даже с MTP локальная модель медленнее облачного API. На RTX 4090 скорость ~87 tok/s против мгновенного ответа от Anthropic API.
-
Качество — Qwopus3.6-27B Coder на SWE-bench (67%) уступает Claude Opus (80%+), но для большинства задач разница незаметна.
-
UI — Cursor предоставляет графический интерфейс, Claude Code работает в терминале.
Но для ежедневной разработки на средних проектах разница минимальна. В реальной практике форк Claude Code на Qwopus3.6-27B-Coder-MTP используется как полноценная замена Cursor.
Установка и запуск
Требования
-
GPU NVIDIA с 24+ ГБ VRAM (RTX 3090/4090 или аналог)
-
Bun (рантайм для TypeScript)
-
LM Studio или другой OpenAI-compatible сервер
Быстрый старт
# Установка зависимостей
bun install
# Запуск
tsx ./main.tsx
Настройка LM Studio
-
Скачайте Qwopus3.6-27B-Coder-MTP-GGUF с Hugging Face
-
Загрузите модель в LM Studio
-
Запустите локальный сервер (по умолчанию на порту 1235)
-
Настройте Claude Code на использование этого провайдера через LLM Router
Сборка Windows-исполняемого файла
bun build ./scripts/windows-launcher.ts --compile --outfile=./dist/claude-code-local-runner.exe
Сравнение: Cursor vs Claude Code на локальной модели
| Критерий | Cursor | Claude Code (локальный) |
|---|---|---|
| Стоимость | $20–50/мес | Бесплатно (после покупки GPU) |
| Приватность | Код отправляется в облако | Полностью локально |
| Интернет | Обязателен | Не нужен |
| Инструменты | Встроенный AI в VS Code | 40+ инструментов в терминале |
| Мульти-агентность | Нет | Да (coordinator mode) |
| Память проекта | Базовая | autoDream + MEMORY.md |
| Скорость | Высокая (облако) | Зависит от GPU (~87 tok/s) |
| Качество кода | Высокое | Хорошее (67% SWE-bench) |
| MCP-поддержка | Нет | Да |
| Скиллы | Нет | Да (пользовательские) |
Заключение
Форк Claude Code на локальной модели Qwopus3.6-27B-Coder-MTP — это не эксперимент, а полноценный рабочий инструмент. Он сочетает мощную архитектуру Anthropic с приватностью и автономностью локальных LLM.
Для разработчиков, которым важна приватность кода, отсутствие зависимостей от облачных провайдеров и возможность работать без интернета — это отличная альтернатива Cursor. А с технологией MTP, удваивающей скорость генерации, разница в производительности становится всё меньше.
Проект продолжает развиваться, добавляя новые инструменты, улучшая систему мульти-агентной оркестрации и расширяя поддержку провайдеров. Следите за обновлениями.