Ручной red-teaming окончательно перестал поспевать за скоростью релизов. Пока живые эксперты ищут лазейки в текущих версиях, OpenAI уже выкатывает GPT-5.6, защищенную «цифровым спецназом». Исследователи компании Никхил Кандпал и Дилан Ханн представили GPT-Red — специализированный хакерский ИИ, задача которого — автоматизировать поиск дыр до того, как модель попадет в руки широкой публике. По словам авторов проекта, «радиус поражения» современных ИИ-агентов вырос настолько, что старые методы аудита выглядят как попытка остановить лесной пожар садовым шлангом. На смену периодическим проверкам приходит непрерывная петля обратной связи: один ИИ методично истязает другой в поисках критических уязвимостей.
The Self-Play Dojo
Механика GPT-Red напоминает тренировочный зал для спаррингов. Кандпал и Ханн использовали цикл самообучения (self-play), поместив модель без базовых хакерских навыков в симуляцию реальных рабочих задач: от кодинга до управления календарями. В этом «додзё» GPT-Red учился захватывать контроль над системами, а защитные алгоритмы — нейтрализовать эти векторы атак. Как объясняют в OpenAI, процесс уже выявил типы угроз, которые человеческий глаз попросту пропускал. Это не просто ускорение процесса, а монополизация контроля над векторами атак: OpenAI сама создает оружие, чтобы продавать бронежилеты.
По сравнению с человеком-тестировщиком, модель пугающе эффективна в поиске именно того, что сработает в конкретном сценарии.
Как отметил Дилан Ханн, GPT-Red отличается патологической настойчивостью, «разбуривая» найденную слабину до тех пор, пока не найдет кратчайший путь к исполнению вредоносного кода. Одной из самых опасных находок стали продвинутые формы промпт-инъекций, способные прятаться внутри кода или веб-страниц. Такой скрытый триггер заставляет ИИ-агента саботировать базу данных или «сливать» корпоративные секреты в реальном времени.
Вместо косметических фильтров на выходе OpenAI переходит к стратегии safety-by-design. Это означает, что устойчивость к взлому закладывается в архитектуру еще на этапе обучения весов. Для бизнеса это звучит как стандарт безопасности будущего, но есть нюанс: если веса такого «хакера на стероидах» утекут в сеть, мир получит автономный инструмент для промышленного шпионажа, работающий 24/7. По сути, мы наблюдаем, как кибербезопасность превращается в закрытую гонку вооружений внутри одной компании, где единственным мерилом надежности продукта становится отчетность его же создателя.