Китайская компания Tencent представила младшую модель семейства Hy4 — Hy4 flash — 16 ноября. Вместо наращивания плотных вычислительных блоков разработчики сделали ставку на разделение рабочей памяти и активных весов, что напрямую снижает затраты серверных ресурсов при обработке входящих данных. Такой подход решает прикладную задачу: как сделать миллионные контексты подъемными для повседневных сервисов без многократного роста счетов за вычисления. Внедрение внешней таблицы поиска вместе с переработанными механизмами внимания кардинально сокращает аппаратные накладные расходы при инференсе, сохраняя при этом приемлемую планку для типовых прикладных операций, что особенно критично для юнит-экономики сервисов с высокой частотой запросов.
Таблица вместо нейронов
Саму идею структуры в виде таблицы поиска предложила лаборатория DeepSeek. В этой схеме адреса известны заранее, и на каждый токен модель вычитывает из таблицы несколько строк.
Архитектура Engram выносит 64 миллиарда параметров в таблицу поиска с чтением нескольких строк на токен, что позволяет обращаться к обычной оперативной памяти вместо дорогой видеопамяти.
Помимо табличной памяти, архитектура опирается на гибридное внимание и LatentMoE. Из-за них KV-кэш у Hy4 flash в шесть раз меньше, чем у Hy4, и в 24 раза меньше, чем у Hy3. Для длинного контекста это важно, поскольку именно кэш съедает память при миллионе токенов, при этом скорость декодирования Tencent оценивает выше 150 токенов в секунду.
Результаты тестов и системные ограничения
Принято считать, что столь сильное урезание активных вычислений неизбежно разрушает общее качество генерации на практических сценариях. На самом деле данные внутреннего слепого теста показали устойчивость системы: 85 пользователей корпоративного приложения WorkBuddy протестировали 259 задач из 27 различных категорий с оценкой по шкале до 4 баллов, что дает объективное представление о применимости модели в реальных бизнес-процессах.
В слепом тесте WorkBuddy на 259 задачах Hy4 flash показала качество на уровне Claude Haiku 5.5, снизив стоимость выполнения каждого задания в 18 раз.
Более того, система почти сравнялась с Claude Haiku 5.5 от Anthropic и обогнала GLM-5.3-Flash от Zhipu AI, при этом выполнение задачи обходилось в 18 раз дешевле, чем у решения от Anthropic. Однако у этой экономии есть жесткие границы. На длинных задачах по программированию разрыв со старшей моделью заметен: в Terminal-Bench 4.0 у Hy4 flash 19,2 балла, тогда как у полной Hy4 — 44,4.
Модель Hy4 flash уже появилась в ИИ-роутере Selectel с OpenAI-совместимым API и оплатой за токены. Поскольку создатели пока не выложили веса в открытый доступ, удаленный программный интерфейс остается единственным способом интеграции. Для типовой обработки документов, поиска и интерфейсных операций архитектура задает новую ценовую планку, но критические задачи разработки по-прежнему требуют полновесных систем, поскольку компромиссы в архитектуре неизбежно бьют по специализированным навыкам модели.
Для сравнения
Снижение счетов за обработку длинных документов упирается в архитектурные компромиссы: радикальная экономия памяти всегда оплачивается просадкой в сложных вычислениях. Зато вынос памяти в отдельную таблицу поиска освобождает ресурсы серверов для потоковых задач, где вместо глубокого кода требуется просто не разориться на миллионных контекстах. Сверхдешевый инференс меняет правила в рутинной обработке текста, но оставляет сложные инженерные задачи дорогим полноразмерным моделям.