Пока HR-директора грезят об объективном ИИ, реальность выписывает им судебные повестки. Исследование Стэнфордского института человекоцентричного ИИ (HAI) под руководством Риши Боммасани вскрыло неприятную правду: 90% работодателей уже внедрили алгоритмы в найм, но вместо борьбы с предрассудками лишь масштабировали их до промышленных объемов. Анализ четырех миллионов заявок из датасета Pymetrics показал устойчивую системную предвзятость против темнокожих и азиатских кандидатов.
Главное
Девять из десяти компаний используют ИИ для первичного отсева кандидатов. Алгоритмы демонстрируют устойчивую дискриминацию по этническому признаку. Возникает эффект «алгоритмической монокультуры», закрывающий доступ к рынку для целых групп талантов. Геймифицированные тесты на «мягкие навыки» не решают проблему предвзятости.
Главная ловушка для бизнеса — «алгоритмическая монокультура». Когда десятки корпораций покупают софт у одного и того же вендора, они создают единый фильтр, который методично выкидывает за борт талантливых специалистов по всей индустрии. Как отмечает Боммасани, кандидаты сталкиваются с серией идентичных отказов, потому что ИИ разных компаний не принимает самостоятельных решений, а копирует общие ошибки.
Это не оптимизация, это создание цифрового гетто.
Даже геймифицированные инструменты, которые должны были оценивать «мягкие навыки» вроде концентрации или склонности к риску, провалили тест на непредвзятость. Профессор Стэнфорда Дэн Джурафски подчеркивает: попытки заменить человеческий субъективизм игровыми механиками не сработали — алгоритмы всё равно находят способ дискриминировать соискателей по этническому признаку.
Для руководителей это означает прямые комплаенс-риски. Использование «черных ящиков» в HR превращает процесс найма в юридическую лотерею с высокими ставками. Если Google получает три миллиона заявок в год и пропускает их через кривое сито, масштаб потенциальных коллективных исков может обнулить любую экономию от автоматизации. Внедряя непрозрачный ИИ, компании не просто нанимают сотрудников — они покупают себе долгосрочные проблемы с регуляторами.