Команда PrismML, костяк которой составляют выходцы из Калтеха (Caltech), нанесла ощутимый удар по концепции «AI-мозгов в облаке». Их новая модель Bonsai 27B с 27 миллиардами параметров заставляет iPhone выполнять многошаговые логические задачи (reasoning), которые раньше требовали мощностей дата-центра. Базируясь на архитектуре Qwen3.6-27B от Alibaba, разработчики доказали: сложная логика больше не является эксклюзивной привилегией серверных стоек.
По данным PrismML, модель сохраняет до 95% производительности в 15 ключевых бенчмарках, включая математику и кодинг, несмотря на экстремальное сжатие. Главная ценность здесь не в самом факте запуска, а в экономике инференса. Современные автономные агенты — это «прожорливые» системы, совершающие сотни итераций за одну сессию. В облачной парадигме оплата каждого токена и задержки сети превращают сложные цепочки рассуждений в финансовую черную дыру. Локальный запуск на устройстве сводит маржинальную стоимость этих циклов к нулю, одновременно снимая вопрос приватности при анализе содержимого экрана или личных документов.
Технологический прорыв в сжатии данных
Техническое решение выглядит как сеанс жесткой диеты: модель, обычно требующую 54 ГБ памяти, ужали до 3,9 ГБ, чтобы она вписалась в лимиты iPhone 17 Pro Max. Это стало возможным благодаря снижению веса нейронных связей с 16 бит до 1–2 состояний.
Как сообщает CNBC, Apple уже ведет предварительные переговоры с PrismML — Купертино отчаянно пытается сократить отставание от облачных гигантов, и технология такого агрессивного сжатия может стать для них спасательным кругом.
Что это значит для бизнеса
Происходящее сигнализирует о фундаментальном сдвиге к гибридной архитектуре, где смартфон превращается из терминала в полноценный автономный узел управления.
Снижение затрат: Отказ от ежемесячного «налога» на API-запросы при развертывании агентов. Безопасность: Бескомпромиссная защита данных при работе с конфиденциальными файлами. Автономность: Локальный reasoning становится стандартом там, где необходима непрерывная итерация без привязки к сети.