AST-SoftPro
Опыт внедрения Python, телеграм-ботов и AI-решений, заметки команды и кейсы заказчиков
Введение Если vLLM стал стандартом для production-инференса благодаря PagedAttention, то SGLang — это ответ на вопрос «что дальше?». Созданный командой LMSYS (Large Model System Or…
Введение Развёртывание больших языковых моделей в продакшене — это не просто «запустить скрипт на GPU». Когда за одним сервером стоят десятки или сотни пользователей, каждый ожидае…
Введение Когда NVIDIA выпустила RTX 5060 Ti на новой архитектуре Blackwell, казалось, что всё будет работать «из коробки». На практике оказалось иначе: вычислительная способность …
Введение Генерация изображений с помощью искусственного интеллекта за последние годы прошла путь от экспериментальных прототипов до полноценного инструмента, который используют ком…
Введение Рынок ИИ-моделей для программирования переживает бурный рост. Если ещё год назад задача «напиши код по описанию» считалась достижением, то сегодня индустрия перешла к аген…
Введение Текст-в-речь (TTS, text-to-speech) перестал быть лабораторной диковинкой. Ещё пять лет назад синтезированная речь выдала робота с первого слова; сегодня в слепых тестах сл…