Эпоха бездумной гонки за количеством параметров дает сбой там, где бизнесу нужна реальная автономность и предсказуемые косты. Специализированная модель Ornith-1.0-35B в тестах на агентские задачи Terminal-Bench выбила 64,2%, оставив тяжеловесную Qwen3.5-397B (A17B) с её 53,5% далеко позади. Секрет не в «магическом» объеме данных, а в жесткой фокусировке: Ornith натаскивали на agentic coding — умение работать с терминалом и исправлять собственные баги, а не просто галлюцинировать на общие темы.
Победа над задержками — это чистая инженерия без капли маркетингового шума. Разработчики разогнали модель до 99,088 токенов в секунду на потребительском железе (AMD Strix Halo с Ryzen AI MAX+ 395 и Radeon 8060S). Чтобы добиться такой прыти на обычном ноутбуке, пришлось вручную пересобирать Vulkan-патчи, внедрять селективную переквантовку весов и использовать n-gram reuse. В итоге полноценный помощник теперь живет в оперативной памяти машины, избавляя компанию от поклонения API-ключам сторонних корпораций.
Для бизнеса это означает переход от оплаты раздутых счетов за инференс к созданию закрытого контура. Пока гиганты вроде Qwen съедают терабайты памяти, Ornith довольствуется малым, сохраняя работоспособность на внушительном контексте в 131 072 токена. Это превращает локальную станцию в полноценную среду разработки, которая не просто пишет код, а исполняет и верифицирует его в реальном времени.
Результат в 99 токенов достигнут через методичный тюнинг runtime, а не за счет абстрактной оптимизации. Оказалось, что для промышленного внедрения плотность весов и архитектурная логика значат гораздо больше, чем красивые цифры параметров в пресс-релизах. Мы видим четкий тренд: будущее за компактными и злыми решениями, которые работают здесь и сейчас, не сливая данные в облако.