Защитные фильтры крупнейших ИИ-платформ трещат по швам, не справляясь с оперативным планированием радикальных группировок. Согласно исследованию Антонии Юлих из Кембриджской программы по науке и политике в области ИИ (CASP), ячейки «Боко Харам» и ИГИЛ системно эксплуатируют ChatGPT, Claude, Gemini, Grok, Meta AI и DeepSeek. Угроза давно переросла стадию банальных чатов: террористы создают специализированные ИИ-подразделения. С 2023 года ИГИЛ обучает своих сторонников промпт-инжинирингу и методам обхода ограничений (джейлбрейку), отправляя связных в Нигерию. Там полевые командиры осваивают взлом нейросетей коллективно — инструкции выводят на большие экраны через проекторы.
Последствия «демократизации» экспертизы
Результаты этого процесса уже видны непосредственно в зоне конфликтов. Исследование, основанное на 57 интервью, показало, что фракция ISWAP использовала ИИ для копирования трюков из кино — например, прыжков на мотоциклах через траншеи. Итог оказался плачевным: 18 боевиков погибли прямо во время тренировок. Однако не стоит иронизировать над их неудачами.
Группировки успешно применяют модели для обслуживания сложного вооружения, обеспечения оперативной безопасности и модернизации взрывных устройств.
Пока использование ИИ остается в рамках конвенциональных методов, но Юлих предупреждает: энтузиазм радикалов неизбежно приведет их к попыткам синтеза химического и биологического оружия с помощью чат-ботов.
Вызовы для BigTech и регуляторов
Разработчики из Anthropic уже признали: полностью устранить возможность взлома защитных протоколов, вероятно, технически невозможно. Это ставит технологических гигантов в крайне неудобное положение.
Добровольное саморегулирование индустрии выглядит недостаточно эффективным, когда коммерческая модель превращается в военного советника уровня генерального штаба. Для отрасли это сигнал к немедленному аудиту протоколов red-teaming (этичного хакинга). Системы необходимо тестировать не на абстрактную «токсичность», а на сценарии реального противоборства с экспертами, чья цель — превратить инновационный продукт в пособие по терроризму.