Еще недавно казалось, что настоящие AI-агенты и прорывные задачи — это эксклюзивная вотчина закрытых коммерческих моделей. В OpenAI, Anthropic и прочих подобных заведениях, вероятно, привыкли к мысли, что прогресс — это исключительно их хлеб. Но последние недели наглядно показали: открытые большие языковые модели (LLM) перешагнули рубеж, после которого их уже не игнорировать. Модели вроде GLM-5 от z.ai и MiniMax M2.7 выдают результаты, сравнимые с топовыми закрытыми аналогами в ключевых задачах. Будь то работа с файлами, использование сторонних инструментов или просто следование инструкциям — open-source подтянулся. Для бизнеса, который уже успел познакомиться с аппетитами ценообразования и задержками проприетарных решений, это — настоящая встряска.
Если отбросить маркетинговую мишуру, главный козырь open-source — это чистая экономика и скорость. Закрытые модели при существенных нагрузках могут обойтись в 8-10 раз дороже. Пример? Обработка 10 миллионов токенов в день на Opus 4.6 тянет на $250. Тот же MiniMax M2.7 справится за $12. Разница в $87 тысяч в год — весомый аргумент, чтобы перестать кормить гигантов. Кроме того, закрытые модели часто туговаты для интерактивных продуктов, где каждая миллисекунда — на вес золота. Открытые же, благодаря оптимизации и меньшей размерности, на специализированной инфраструктуре от провайдеров вроде Groq, Fireworks или Baseten, демонстрируют чудеса. GLM-5 на Baseten выдает задержку в 0.65 секунды (70 токенов/сек), тогда как Opus 4.6 — 2.56 секунды. Это пропасть, которую сложно не заметить.
Эти выводы не голословны — их подтверждают результаты тестирований, проведенных с использованием наработок Deep Agents. Исследователи проверили семь категорий задач, включая надежность вызова инструментов, следование инструкциям и работу с файлами. Оценивались как точность выполнения, так и скорость. GLM-5 и MiniMax M2.7 показали, что открытые модели готовы для продакшена: они обеспечивают достаточную предсказуемость и стабильность для внедрения в реальные рабочие процессы. Больше никаких «игрушек для энтузиастов».
Конечно, прыжок в мир open-source — это не прогулка по парку. Бизнесу стоит трезво взвесить не только обещанные выгоды, но и потенциальные риски. Безопасность данных, необходимость самостоятельной поддержки, сложности с интеграцией и отсутствие гарантированной техпомощи — всё это потребует дополнительных компетенций и ресурсов. Гибкость open-source — это палка о двух концах, и готовность к ней должна быть.
Что это значит для вас: Открытые LLM перестали быть нишевым решением для гиков. Теперь это реальный инструмент для сокращения расходов и ускорения интерактивных AI-сервисов. Компании, активно внедряющие AI, получают шанс конкурировать с крупными игроками на более ровных условиях, используя доступные и мощные технологии.