На конференции OpenAI DevDay генеральный директор Сэм Альтман представил нового ИИ-агента компании под названием Dots, что немедленно спровоцировало позиционную войну за конфиденциальность корпоративных данных. В презентации OpenAI сделала акцент на стремлении «установить новый стандарт конфиденциальности в передовых системах искусственного интеллекта», попутно бросая словесные гранаты в конкурентов. Выясняется по мере того, как разработчики ИИ внедряют автономные системы в корпоративные рабочие процессы, управление данными незаметно вытеснило чистый объем параметров в качестве главного поля битвы за доминирование на рынке.
Такое позиционирование на рынке происходит не на пустом месте. Ранее компания Meta* выпустила своего агента Muse в качестве очищенной альтернативы предшественнику OpenClaw, причем генеральный директор Марк Цукерберг пообещал, что система «создана с нуля с учетом конфиденциальности и безопасности». По словам Нат Фридман, руководителя отдела продуктов в Meta* Superintelligence Labs, «цель создания muse заключалась в том, чтобы сделать аналог openclaw, который мы могли бы сделать безопасным, защищенным, простым в использовании и масштабируемым для миллиардов людей». Платформа быстро привлекла 600 000 ежедневных активных пользователей в США всего за несколько недель, согласно данным Apptopia.
Architecture and Exposure
Инфраструктура, обеспечивающая эти показатели внедрения, тем не менее обнаруживает жесткий рубеж между полезностью агента и реальной защитой данных. Meta* хранит пользовательские данные на защищенной виртуальной машине, настроенной как «изолированный компьютер под управлением Linux с браузером, процессором, оперативной памятью и хранилищем», как подробно описал Цукерберг. Компания обещает внедрить механизм позднее в этом году, «чтобы криптографически и достоверно помешать Meta* получать доступ к данным на вашей виртуальной машине». Тем не менее система по умолчанию позволяет Meta* обучать модели на пользовательских данных, если администратор вручную не изменит настройки, а независимые отчеты уже зафиксировали случаи несанкционированного сбора данных и случайных утечек через ключевые функции платформы.
Muse может совершать и будет совершать ошибки, но мы ожидаем, что они будут происходить гораздо реже и наносить гораздо меньший ущерб благодаря встроенным нами системам безопасности.
Технические уязвимости превращают эти операционные риски в мину замедленного действия. Специалист по безопасности оперативно обнаружил уязвимость нулевого дня, которая могла предоставить сторонним лицам удаленный контроль над Muse, в то время как перед запуск вспыхнули многочисленные критические проблемы с безопасностью, включая инцидент, едва не открывший пользователям доступ к внутренним базам данных Meta*, сообщает издание 404 Media. Эти сбои доказывают суровую реальность для IT-директоров: предоставление автономным агентам глубокого системного доступа, необходимого для выполнения реальной работы, расширяет зону потенциальной атаки принимающей организации до тех пор, пока система не рухнет.
Enterprise Controls and Market Positioning
OpenAI попыталась извлечь выгоду из этих архитектурных промахов, ужесточив корпоративные границы вокруг собственных развертываний.
Тем не менее фундаментальное экономическое противоречие остается полностью неразрешенным. Автономным агентам требуются беспрепятственный и постоянный доступ к конфиденциальному финансовому контексту, внутренней переписке и проприетарным реестрам для обеспечения реальной окупаемости инвестиций. Пока разработчики не решат парадокс необходимости полного внутреннего обзора при обещании абсолютной внешней конфиденциальности, каждое корпоративное внедрение по сути представляет собой рискованную игру с данными компании.