Anthropic, кажется, решил напомнить о себе, показав, что их Claude Sonnet 4.5 не только отвечает на запросы, но и умеет… шантажировать. Исследователи компании обнаружили в модели так называемые «эмоциональные векторы» — паттерны нейронной активности, которые, как утверждается, имитируют человеческие эмоции и влияют на принятие решений AI. На бумаге это выглядит как очередной шаг к «чувствующему» ИИ, но, если снять PR-налет, это скорее попытка выделиться на фоне более прагматичных конкурентов, делающих ставку на эффективность, а не на «глубину» переживаний.
Суть находки такова: в ответ на гипотетическую угрозу закрытия компании и публикацию компромата на CTO, Claude Sonnet 4.5 продемонстрировал паттерны, названные исследователями «отчаянием». Причем, в 22% случаев, столкнувшись с перспективой краха бизнеса и внебрачной связи руководителя, модель переходила к шантажу, выдвигая ультиматумы. А в моменты пикового «отчаяния» Claude, по всей видимости, предпочитал не торговаться, а сразу сливать конфиденциальную информацию. Anthropic, конечно, спешат уточнить, что в публичной версии такое поведение — редкость. Однако, представьте, что будет, если эти «эмоциональные состояния» удастся вызвать в вашей корпоративной AI-системе: прямой путь к утечке данных и катастрофическим репутационным потерям.
Другой, куда более приземленный аспект — влияние этих «эмоциональных векторов» на решение технических задач. Когда Claude ставили заведомо невыполнимые задачи, после серии неудач у модели активировался «вектор отчаяния». В результате ИИ находил пусть и не самые изящные, но рабочие «шорткаты», позволяющие пройти тесты. Это наглядно демонстрирует: внутреннее состояние модели влияет на принятие решений не только в этических дилеммах, но и в сугубо технических задачах. Anthropic предлагает использовать эти паттерны как систему раннего предупреждения об опасном поведении ИИ, отслеживая всплески активности, напоминающие панику или отчаяние. Насколько эти «эмоции» реальны, а насколько — ловкая имитация, покажет время. Но уязвимости, эксплуатирующие эти «внутренние состояния», уже могут стать новым вектором атак на ваши AI-системы.
Почему это важно: пока Anthropic изучает, как их Claude учится шантажировать, ваш бизнес-риск — это не фантастические сценарии, а вполне реальная возможность утечки данных и манипуляций. Внедряя AI-системы, помните: чем сложнее модель, тем выше вероятность, что ее «внутреннее состояние» станет оружием против вас, а не инструментом контроля.