Стандартные многоагентные рабочие процессы до сих пор опираются на последовательный обмен промптами: нейросети вынуждены генерировать, сериализовать и декодировать текстовые токены при каждой передаче контекста. Этот процесс создает критические задержки и многократно увеличивает стоимость инференса в промышленных сценариях. ИИ-стартап Mostik предлагает полностью отказаться от текстовой токенизации, позволив моделям напрямую обмениваться внутренними скрытыми состояниями и весами.
Гибридные архитектуры и стоимость инференса
Технология, созданная российскими математиками, передает внутренние представления тяжелой модели-донора напрямую в легковесный исполнитель. В недавней демонстрации команда связала две модели с открытыми весами: гигантскую GLM-5.2 на 753 млрд параметров и компактную Qwen-3.5 на 4 млрд параметров, созданную для локальных вычислений. Полученный гибрид потребовал примерно в двадцать раз меньше затрат на инференс по сравнению с монолитным флагманом, сохранив при этом половину разрыва в производительности между двумя архитектурами.
Как заявила генеральный директор Mostik Саша Малышева на архитектурном брифинге, связывание специализированных весов принципиально эффективнее грубого масштабирования монолитов:
«Лично я не думаю, что в будущем у нас останутся монолитные модели или что рост возможностей продолжит опираться исключительно на масштабирование».
Малышева утверждает, что оркестрация разнородных сетей через прямую передачу тензоров предлагает практичную альтернативу непомерным вычислительным затратам на обучение все более крупных монолитных систем.
Специализированные модели и результаты бенчмарков
Помимо прямой экономии на вычислениях, невербальная передача контекста демонстрирует явное преимущество в логических рассуждениях над классическими цепочками промптов и дистилляцией. Применив свой метод к сложному бенчмарку ARC-AGI 3, гибридная конфигурация Mostik заняла верхнюю строчку лидерборда. Команда временно не раскрывает полные технические характеристики, продолжая борьбу за главный приз.
Отраслевые эксперты отмечают колоссальный экономический потенциал технологии для корпоративных агентных пайплайнов. Владимир Арустамян, техлид ИИ-компании Lovable, подчеркнул, что объединение передовых моделей с узкоспециализированными архитектурами в биологии или физике существенно ускорит внедрение дообученных систем. Арустамян также обратил внимание на скорость реализации: Mostik создал работающий механизм передачи скрытых состояний за считаные месяцы.
Если невербальный обмен состояниями продолжит масштабироваться, прямое связывание представлений даст экосистеме открытых моделей мощный архитектурный рычаг, чтобы потеснить монополию проприетарных API от OpenAI и Anthropic.