Интеграция ИИ-ассистентов методично уничтожает фундаментальную человеческую способность — умение вовремя признать нехватку знаний. Согласно исследованию, которое провели Кьяра Маркоччия, Вальтер Кваттрочокки и Валерио Капраро, само наличие ИИ-подсказки практически сводит на нет готовность человека взять паузу под давлением неопределенности. В серии из пяти экспериментов с участием 3 132 респондентов доступ к ответу модели — неважно, запрошенному или навязанному — приводил пользователей в состояние когнитивной капитуляции. Люди упорно выдавали ответы на сложные вопросы даже тогда, когда у них была легальная опция отказаться.
Данные обнажают опасный метакогнитивный сдвиг: внешняя гладкость ответов больших языковых моделей сбивает настройки критического мышления. В ходе тестов участники получали заведомо ложные подсказки от ИИ. Итог предсказуем, но печален: уверенность людей в своих ответах выросла почти вдвое по сравнению с контрольной группой, работавшей без «умного» костыля. ИИ создает ложное ощущение поддержки, которое ослепляет пользователя и маскирует его собственное невежество. Это когнитивное искажение оказалось сильнее даже прямых финансовых стимулов — участники продолжали ошибаться, невзирая на штрафы за неверные догадки и бонусы за точность.
Риски для бизнеса и деградация мышления
«Участники, использующие ИИ, давали правильные ответы втрое реже, чем те, кто полагался только на себя, при этом их уверенность в собственной правоте была в два раза выше».
Такая динамика превращает внедрение ИИ без жестких протоколов верификации в управленческую мину замедленного действия. Операторы на местах деградируют до состояния «резиновых печатей», механически заверяющих галлюцинации моделей. Проблема здесь не в качестве алгоритмов, а в том, что технология ломает критерии принятия решений: человек перестает задаваться вопросом, достаточно ли он знает, чтобы действовать. Без внедрения культуры активного сомнения бизнес рискует получить штат сотрудников, которые разучились сомневаться, но научились масштабировать ошибки с беспрецедентной скоростью.