Эпоха раздутых Vision-Language-Action (VLA) моделей, пожирающих серверные стойки ради простых движений манипулятора, подходит к финалу. Исследователи из Университета Чанг-Анг представили CoTinyVLA — систему на 0,9 млрд параметров, которая на бенчмарке LIBERO-Plus показала результативность в 90,8% (Spatial) и 86,6% (Goal). Ирония ситуации в том, что этот малыш, построенный на базе Qwen-0.8B, обходит модели в семь раз крупнее, опережая топовый 7B-бейзлайн на внушительные 15,9 пункта.
Главное
Компактная архитектура на 0,9 млрд параметров против стандартных 7 млрд. Использование иерархической дистилляции цепочки рассуждений (CoT) от мощного 35B-учителя. Эффективная работа с временным окном из 16 кадров для точного планирования действий. Потребление всего 2,25 ГБ видеопамяти при работе в режиме реального времени.
Секрет не в «железе», а в умении заставить нейросеть «думать» перед тем, как хватать.
Технический успех CoTinyVLA держится на иерархической дистилляции цепочки рассуждений (CoT) от 35B-учителя. Модель анализирует временное окно из 16 кадров, формируя планы на уровне эпизодов и детализированные блоки размышлений (Think spans) о состоянии захвата и субакциях. По сути, авторы внедрили структурированное прогнозирование, которое направляет физические движения робота, не раздувая при этом вес модели при инференсе. Добавьте сюда аугментацию парафразами для устойчивости к командам — и вы получите мозг, который понимает контекст, а не просто копирует пиксели.
Стратегический контекст
Для CTO и руководителей R&D это сигнал к пересмотру бюджетов на CapEx. Пока традиционные 7B-модели требуют гигабайты видеопамяти и мощные GPU, CoTinyVLA потребляет всего 2,25 ГБ в режиме закрытого цикла. Это открывает прямой путь к запуску продвинутого интеллекта на дешевых встраиваемых устройствах прямо на борту робота.
Итог
Мы наконец-то уходим от дорогих облачных задержек к локальной автономности, где стоимость владения (TCO) падает кратно, а скорость реакции позволяет использовать роботов в реальных цехах, а не только в стерильных лабораториях.