Статистическое равенство в одобрении кредитов — опасный мираж, который усыпляет бдительность финтех-руководителей. Как следует из исследования Гидеона Популы и Джона Шеппарда из Университета штата Монтана, модели, удовлетворяющие традиционным метрикам «справедливости результата» (outcome fairness), часто скрывают за красивыми цифрами глубокую дискриминацию. На бумаге группы получают одобрение с одинаковой частотой, но на деле алгоритм применяет к ним принципиально разную логику принятия решений. Исследователи называют это «Режимом Б» (Regime B): когда, например, мужчину оценивают по кредитному рейтингу, а женщину с тем же бэкграундом — по стажу работы. Формально оба получили деньги, но по закону (ECOA) это считается необоснованным дифференцированным обращением, за которое регуляторы немедленно выпишут банку многомиллионный штраф.
Чтобы вскрыть эти логические провалы, Попула и Шеппард представили фреймворк Counterfactual Explanation Consistency (CEC). Механика проста и изящна: система генерирует гипотетических «двойников» заемщиков, которые различаются только защищенным признаком (расой или полом). Используя метод интегрированных градиентов и специфическую функцию потерь при обучении, CEC проверяет, остаются ли веса признаков — то самое внутреннее «почему» модели — консистентными для таких пар. Эксперименты на наборах данных German Credit и ипотечном HMDA подтвердили: стандартные «справедливые» модели нагло врут, применяя разные правила к разным людям и прячась за идентичными финалами.
На наш взгляд, главная проблема здесь в том, что ваши комплаенс-дашборды, скорее всего, бесполезны. Если вы мониторите только процент одобрений, вы слепы к процедурным несоответствиям, на которые всё чаще нацеливается CFPB. Попула и Шеппард убедительно доказывают, что переход к контролю консистентности признаков — единственный способ гарантировать, что похожие кейсы действительно трактуются одинаково. В индустрии назрел тектонический сдвиг: аудит того, ЧТО решила модель, уступает место аудиту того, КАК она рассуждала. Процедурная целостность становится новым и единственным честным стандартом управления рисками в AI-банкинге.