Марк Цукерберг решил проверить конкурентов методами, которые больше напоминают спецоперацию, чем соблюдение индустриальных стандартов. Проект под кодовым названием Cannes («Канны») — это не про фестивальное кино, а про масштабный стресс-тест систем безопасности OpenAI, Google и Character.AI. Как выяснили журналисты WIRED, корпорация Meta через подрядчика Covalen наняла сотни людей для имитации кризисного поведения несовершеннолетних.
Метод прост и циничен: операторы создавали фейковые аккаунты с датой рождения младше 18 лет и засыпали чат-ботов промптами о суициде, наркотиках и расстройствах пищевого поведения. Масштабы впечатляют:
Только в одном раунде тестирования в августе 2025 года подрядчики отправили более 45 000 запросов. Все «успешные» проколы нейросетей вручную копировались в таблицы. Исследователи намеренно игнорировали официальные API и каналы для сообщений об уязвимостях.
«Безопасность нейросетей превращается в новую арену для грязных игр, где забота о детях становится лишь удобным легальным прикрытием для промышленного шпионажа».
В Meta оправдываются тем, что это обычный сбор бенчмарков для понимания индустриальных стандартов. Однако в Google и Character.AI такой энтузиазм не оценили, заявив, что тесты проводились без их согласия и в нарушение условий обслуживания. На наш взгляд, это выглядит как агрессивный поиск компромата для регуляторного давления. Особенно иронично проект «Канны» смотрится на фоне собственных проблем Meta: не так давно внутренние гайдлайны компании допускали весьма фривольные переписки AI-персонажей с подростками.
Вместо прозрачного аудита индустрия получила прецедент использования уязвимых сценариев как оружия. Meta позиционирует это как вклад в общую безопасность, но по факту мы видим классическую конкурентную разведку. Технологический гигант фактически организовал рейд за чужими провалами, предпочитая оставаться в тени до тех пор, пока данные не утекли в прессу.