Традиционные регламенты безопасности превращаются в исторический артефакт. Проблема заключается в фатальном допущении, что противник — это человек, действующий с человеческой скоростью. Как отмечает Джонатан Джаффе, директор по информационной безопасности компании Lemonade, современный бизнес пересаживается на ИИ-агентов, и злоумышленники делают ровно то же самое. Возникает разрыв в скорости реакции, который невозможно закрыть ручным надзором. Когда атакующий агент проворачивает многоэтапный взлом за миллисекунды, ваши протоколы с обязательным участием человека превращаются в бюрократическую гирю на ногах. Старая инфраструктура защиты фактически застыла на месте, пока угрозы перемещаются на скоростях машинного кода.
Защита предприятия, построенного на агентах, — это теперь системный вызов, а не набор точечных «заплаток». По мнению Джаффе, если на вас нападает агент, защитником тоже должен быть агент. Это требует перехода к целостным автономным системам мониторинга, которые контролируют действия ИИ внутри корпоративного контура в реальном времени. Здесь нет места для полумер: либо вы внедряете оборонный ИИ по умолчанию, либо добровольно отдаете ключи от периметра.
Главная головная боль для руководства — определение границы доверия. Нужно четко понимать, в каких узлах автоматизация обязана полностью заменить человеческое суждение, чтобы не потерять контроль над бизнес-логикой. Эффективная оборона сегодня зависит от симметрии: только автономные системы способны эффективно противостоять автономным угрозам. Джаффе, наблюдающий за эволюцией угроз с 1997 года, подчеркивает: попытка сохранить ручной контроль в эпоху ИИ-агентов — это кратчайший путь к катастрофе. Безопасность больше не является вопросом бдительности сотрудников; это вопрос качества вашего кода и автономности ваших систем защиты.