Коллективный десант исследователей из Карнеги — Меллон, MIT, Оксфорда и UCLA подтвердил то, о чем скептики догадывались давно: ИИ превращается из помощника в когнитивный костыль. В ходе серии экспериментов сотни испытуемых решали математические задачи и тесты на логику. Одной группе выделили «умного» ассистента, способного закрывать задачи автономно. Результат предсказуем, но от этого не менее тревожен: как только у пользователей отбирали опору, они моментально впадали в ступор. Число грубых ошибок росло по экспоненте, а воля к решению проблем испарялась при первых же трудностях.
Как отмечает доцент MIT Михил Баккер, мы наблюдаем опасный размен: сиюминутный скачок продуктивности покупается ценой деградации фундаментальных навыков. ИИ работает как навигатор, который довезет вас до цели, но лишит способности ориентироваться в пространстве самостоятельно. Проблема в том, что обучение и профессиональный рост невозможны без сопротивления материала и борьбы с ошибками. Когда алгоритм выдает готовый ответ вместо того, чтобы направлять мысль, мозг просто выключает режим поиска решений за ненадобностью.
Для бизнеса это не просто вопрос эффективности, а системный риск потери интеллектуального капитала. Баккер, успевший поработать в Google DeepMind, предупреждает: делегирование критического мышления агентным системам делает сотрудников беспомощными перед лицом системных сбоев. Если человек не понимает логику процесса, он не сможет исправить ошибку, которую сгенерировала «галлюцинирующая» модель. Ирония в том, что внедрение технологий ради ускорения работы может привести к появлению штата высокооплачиваемых операторов, которые не способны выполнить элементарных действий без подсказки чат-бота.
Вместо того чтобы превращать сотрудников в придатки к серверам OpenAI, компаниям пора внедрять протоколы контроля навыков и разграничивать зоны ответственности. ИИ должен функционировать как «строительные леса» — поддерживать структуру, но заставлять человека карабкаться самостоятельно. Пока разработчики лишь пытаются снизить патологическую «угодливость» моделей, руководителям стоит задуматься: не станет ли ваша команда через год бесполезной группой людей, если в офисе внезапно пропадет интернет или перестанет работать API.