Подписывайтесь:

AST-SoftPro

Блог о разработке и проектах

Опыт внедрения Python, телеграм-ботов и AI-решений, заметки команды и кейсы заказчиков

Qwen 3.8-27B локально: Q4_K_M с FP16 KV или Q6_K_M с Q8 KV — что выбрать для агентного кодинга
19.08.2026 16 мин чтения

Qwen 3.8-27B локально: Q4_K_M с FP16 KV или Q6_K_M с Q8 KV — что выбрать для агентного кодинга

Введение Запускать 27-миллиардную модель на двух потребительских GPU — уже не экзотика, а рабочий сценарий. Но после того как модель влезла в память, возникает менее очевидный вопр…