Anthropic наступила на собственные грабли: компания допустила утечку модели Mythos, которую сама же окрестила «слишком опасной» для широкой публики из-за продвинутых возможностей в сфере кибервзломов. Как сообщает Bloomberg, группа хакеров получила доступ к системе ровно в тот день, когда Дарио Амодеи и его команда анонсировали закрытое тестирование для избранного круга корпоративных клиентов. Маркетинговая стратегия «безопасность превыше всего» с треском разбилась о реальность: Anthropic не смогла защитить даже тот инструмент, который сама же называла угрозой для глобальной цифровой инфраструктуры.
Ирония в том, что взлом компании с многомиллиардной оценкой оказался по-детски простым. По данным Bloomberg, злоумышленники просто вычислили сетевой адрес модели, используя данные утечки в Mercor — подрядчике, управляющем данными для обучения. Дополнительным «ключом» стали инсайды от наемного сотрудника, занимавшегося оценкой моделей Anthropic. Как иронично заметил в интервью The Verge исследователь безопасности Лукаш Олейник, подобные проколы — классика индустрии последних двадцати лет. По его мнению, Anthropic обязана была просчитать риски, учитывая, что об инциденте в Mercor было известно заранее. Хуже того, располагая всеми инструментами мониторинга, в Anthropic умудрились не заметить вторжение в периметр якобы «строго охраняемого» релиза.
Пока Пиа Хюш из британского аналитического центра RUSI дежурно напоминает, что человек остается слабейшим звеном в цепи безопасности, мы наблюдаем системный провал контроля над цепочкой поставок. Anthropic позиционировала Mythos как сверхзащищенный актив, но для обхода защиты хватило инсайдерской информации и «удачной догадки». Бизнесу пора перестать воспринимать ярлык «AI Safety» как гарантию технической неуязвимости. На наш взгляд, этот кейс окончательно подтверждает: маркетинговые сказки ИИ-лабораторий о защищенном периметре вторичны по сравнению с жестким независимым аудитом.
Урок для бизнеса очевиден: «закрытость» модели обеспечивает защиту лишь до тех пор, пока не совершит ошибку самый дешевый субподрядчик вендора. Для генеральных директоров это сигнал к немедленной диверсификации поставщиков и внедрению протоколов нулевого доверия (Zero Trust). Если лаборатория теряет контроль над моделью, которую сама считает кибероружием, то рассчитывать на сохранность ваших корпоративных данных за «стеной» вендора — по меньшей мере наивно.