Современные LLM — это не просто кривое зеркало человеческих стереотипов, а фабрики по производству новых. Пока бизнес увлеченно фильтрует «токсичность» в датасетах, исследователи из Принстона и Чикагского университета (University of Chicago) обнаружили неприятный эффект: ChatGPT, Claude и Gemini синтезируют собственные паттерны дискриминации прямо в процессе работы. В ходе симуляции найма на 20 различных вакансий модели распределяли представителей вымышленных этносов — Туфа, Айма, Реку и Веки — с грацией кастовой системы. Как только модель фиксировала единичную неудачу кандидата из группы Айма на позиции врача, она не просто штрафовала конкретного человека, а фактически накладывала запрет на профессию для всей группы, переводя их в категорию обслуживающего персонала.
Провал концепции «чистых данных»
Для топ-менеджмента здесь скрыта системная угроза: дискриминация — это побочный продукт тех самых когнитивных способностей, за которые мы ценим нейросети. В тесте на уровень сегрегации, где оценка 2 означает абсолютную изоляцию групп по профессиональным нишам, живые люди набрали 0,84. Новейшая модель o3 от OpenAI (OpenAI) показала результат 1,83, вплотную приблизившись к максимуму. Как отмечает Райан Лю (Ryan Liu) из Принстона, алгоритмы оптимизированы для обобщений на основе крошечных выборок данных.
«Именно на это они и заточены в значительной степени», — подчеркивает Райан Лю.
Корень проблемы — в дилемме «поиска и эксплуатации» (exploration-exploitation dilemma). Поскольку модели натасканы на математике и естественных науках, где обобщение по нескольким примерам является признаком интеллекта, они переносят эту логику на социальные процессы. Нейросеть слишком быстро формирует «социальное предчувствие» и превращает его в догму, не давая кандидатам второго шанса.
Комплаенс-ловушка для C-Suite
Для CEO и офицеров по комплаенсу это создает юридическое минное поле, которое не зачистить стандартным аудитом. В гонке за агентностью и персонализацией разработчики внедряют в системы долгосрочную память. Это дает AI-рекрутерам инструменты для гиперфиксации на прошлом негативном опыте. Попытка внедрить «умного» помощника в HR сегодня выглядит как найм сотрудника, который отказывается забывать старые обиды и проецирует их на каждого нового соискателя.
Бизнесу будет невозможно обосновать решения о найме, когда внутренняя «логика» модели решит тихо отсекать целые демографические пласты из-за одного неудачного кейса в прошлом. Стремление к эффективности через AI-агентов ведет не к объективности, а к созданию непредсказуемых цифровых барьеров, которые усиливают неравенство жестче и эффективнее, чем любой предвзятый HR-директор из плоти и крови.