Эпоха монолитных нейросетей-универсалов упирается в стену экономической реальности. Пока бигтехи соревнуются в количестве параметров, JetBrains выпускает Mellum2 — модель на 12 млрд параметров с архитектурой Mixture-of-Experts (MoE), где в моменте работают лишь 2,5 млрд. Это не просто попытка сэкономить на «железе», а четкий сигнал рынку: время раздутых LLM проходит. Для CTO и архитекторов математика здесь предельно прозрачна — больше не нужно платить «налог на вычисления» огромной модели там, где задача требует лишь малой доли её интеллекта.
Архитектура радикальной эффективности
JetBrains обучали Mellum2 с нуля, сфокусировавшись на коде и тексте. Использование MoE позволяет сохранять высокую общую емкость знаний, при этом жестко ограничивая вычислительный ресурс на каждый запрос. По данным технического отчета JetBrains, такой подход обеспечивает двукратное ускорение инференса по сравнению с открытыми моделями аналогичного веса. Это критически важно для автономных агентов. Когда системе требуется цепочка вызовов — классификация промпта, выбор инструмента, валидация — задержка фронтирных моделей становится непреодомимым барьером. Ускоряя промежуточные этапы, Mellum2 меняет саму экономику внедрения AI.
За счет отказа от мультимодальности в пользу специализации на тексте и коде, модель получилась компактной и «злой». Вертикализация стратегии JetBrains гарантирует, что в бизнес-задачах вроде RAG-пайплайнов или компрессии контекста модель будет работать без балласта лишних модальностей. Как объяснили в JetBrains, цель не в том, чтобы вытеснить все модели из стека, а в том, чтобы сделать инфраструктуру быстрее и дешевле в управлении.
Комплаенс и разворот к On-premise
Второй столп Mellum2 — гибкость развертывания. Модель выпущена под лицензией Apache 2.0, что делает её идеальным кандидатом для self-hosted решений. Это прямой ответ на боли организаций, зажатых в тиски комплаенса, где проприетарный код или внутренние данные категорически запрещено отправлять в облачные API. Низкие требования к ресурсам для инференса Mellum2 опускают порог входа для компаний, желающих перенести AI-нагрузки на свои серверы. По оценке JetBrains, модель особенно эффективна для высоконагруженных функций написания кода и постобработки данных в закрытых контурах.
Переход к таким сфокусированным решениям отражает взросление рынка, где надежность и скорость определяют готовность продукта к эксплуатации. Mellum2 можно использовать как легковесный роутер для распределения трафика или как специализированного суб-агента для планирования — в любом сценарии специализированная эффективность бьет универсальный масштаб. Мы видим реальную коммодитизацию качественных моделей для работы с кодом, которые запускаются где угодно без астрономических счетов за GPU. В конечном счете, Mellum2 доказывает: 2,5 млрд активных параметров достаточно для большинства задач корпоративной оркестрации, а прямая зависимость стоимости инференса от масштабирования агентов — это миф, который пора оставить в прошлом.