OpenAI радикально меняет правила игры, превращая ИИ из пассивного чат-бота в невидимого наблюдателя за вашим рабочим столом. Как сообщает издание The Decoder, новая функция Chronicle в приложении Codex для macOS записывает экран пользователя в фоновом режиме, формируя динамический архив контекста. Вместо того чтобы в сотый раз объяснять суть проекта, вы просто работаете, а агенты OpenAI преобразуют видеопоток в локальные сводки в формате Markdown. По заверениям разработчиков, это должно освободить пользователя от «ручного» ввода данных.
Однако за бесшовную интеграцию придется платить безопасностью. В OpenAI признают: накопленные «воспоминания» хранятся на устройстве в незашифрованном виде. Это создает брешь в защите данных, доступную любому, кто получит физический или удаленный доступ к системе. Еще более экзотичным выглядит риск «инъекции промптов» через визуальный контент. Как предупреждают в OpenAI, вредоносные команды могут быть встроены непосредственно в макеты посещаемых вами сайтов. Достаточно открыть страницу со скрытым текстом, и агент «прочтет» его с экрана как прямое руководство к действию, что позволит злоумышленникам перехватить контроль над поведением ИИ.
С операционной точки зрения Chronicle — инструмент энергозатратный и капризный. Согласно данным OpenAI, функция быстро расходует лимиты запросов, поэтому активные пользователи рискуют столкнуться с блокировкой доступа гораздо быстрее, чем при обычном текстовом общении. Кроме того, системе требуются расширенные разрешения macOS на запись экрана и доступ к универсальному доступу. Неудивительно, что из-за такого профиля рисков OpenAI на данный момент обходит стороной ЕС, Великобританию и Швейцарию, ограничивая предварительный доступ только подписчиками ChatGPT Pro в менее регулируемых юрисдикциях.
Для бизнеса это означает переход к модели «ИИ как слой операционной системы». С одной стороны, мы получаем рабочий процесс без лишних слов, где нейросеть понимает контекст с полувзгляда. С другой стороны, технические директора компаний должны осознавать: Chronicle в нынешнем виде — это незашифрованный архив корпоративной деятельности, уязвимый для новых типов атак. На наш взгляд, пока архитектура безопасности не предусматривает локального шифрования, использование Chronicle в корпоративном периметре выглядит как неоправданный риск для интеллектуальной собственности.