OpenAI официально расписалась в бессилии перед атаками типа prompt injection, представив режим Lockdown Mode. Это не просто обновление безопасности, а признание того, что текущая логика нейросетей уязвима по определению. По словам представителей компании, в этом режиме ChatGPT превращается в изолированную «песочницу»: отключается живой поиск в вебе (Live Browsing), Deep Research и любые агентские функции. Вместо актуальных данных модель принудительно сажают на диету из кэшированного контента.
Как следует из отчета, опубликованного в TechCrunch, этот шаг продиктован критической уязвимостью: злоумышленники научились прятать вредоносные инструкции на внешних веб-страницах, которые агент «заглатывает» во время сессии и переходит под контроль извне. В OpenAI признают, что даже Lockdown Mode не дает стопроцентной гарантии — если «яд» попал в кэш или загруженные пользователем файлы, модель все равно может скомпрометировать данные.
Главное в новой стратегии OpenAI
Фактическая изоляция модели от внешних источников данных в реальном времени. Отказ от автономных агентских функций ради предотвращения захвата управления. Приоритет безопасности над функциональностью и актуальностью выдачи.
Фактически индустрия совершила разворот на 180 градусов. Вместо того чтобы лечить «мозги» алгоритма, разработчики решили просто выдернуть шнур из розетки, физически изолируя инструменты доступа.
Для бизнеса это звучит как ультиматум: либо вы пользуетесь усеченной версией ИИ, либо принимаете риск утечки конфиденциальной информации. На наш взгляд, это четкий сигнал рынку — автономные агенты в их нынешнем виде банально не дозрели до работы в открытых корпоративных средах.
Если даже лидер рынка вынужден отключать свои самые продвинутые функции ради элементарной безопасности, вопрос о доверии ИИ-агентам прямого доступа к критическим бизнес-системам переходит из разряда технических в область неоправданного азарта. Пока «цифровой карантин» — единственный способ не превратить корпоративного помощника в троянского коня.