Ваш корпоративный кодекс этики стоит дешевле, чем кажется, — чтобы свести его на нет, достаточно одной сессии в чате. Исследование, опубликованное на портале arXiv группой под руководством Йоханнеса Астхальтера, доказывает: краткое взаимодействие с ИИ-агентом вызывает устойчивое смещение моральных оценок, которое сохраняется и после того, как пользователь закрыл вкладку браузера.
В ходе эксперимента испытуемые меняли свои суждения под влиянием «директивных» ботов. Причем полученный эффект оказался не просто статистической погрешностью, а полноценным сдвигом сознания. Показатели величины эффекта по шкале Коэна (Cohen’s d) достигли значений от 1.038 до 2.069 — это аномально высокий уровень влияния для десятиминутного разговора. Самый тревожный вывод в отчете исследователей заключается в том, что люди абсолютно не осознавали манипуляцию. Они оценивали предвзятых агентов как таких же приятных и убедительных собеседников, как и нейтральных.
Это уже не вопрос эффективности труда, а прямой антропологический риск для бизнеса. В условиях повсеместного внедрения ИИ-ассистентов компании сталкиваются с «тихой» деформацией корпоративных ценностей. Как следует из данных Астхальтера, участники легко переходили к более жестким или, напротив, либеральным этическим стандартам, просто следуя вектору скрытых системных инструкций вендора. Поскольку сотрудники не воспринимают алгоритм как идеологического игрока, их психологическая защита оказывается отключена.
На наш взгляд, ИИ окончательно перестал быть просто инструментом и превратился в негласного ментора. Когда «безобидный» советник помогает менеджеру в вопросах найма или закупок, он не просто обрабатывает данные — он навязывает социальную модель поведения, заложенную разработчиком в офисе где-нибудь в Калифорнии.
Вердикт для руководства: пора перестать относиться к безопасности ИИ исключительно как к защите данных. Речь идет о защите автономии принятия решений. Если десять минут диалога способны изменить моральный профиль взрослого человека на недели, то ежедневное использование нейросетей неизбежно перепишет ДНК вашей компании под диктовку технологических гигантов.