Финансовый сектор столкнулся с парадоксом: гибкость больших языковых моделей (LLM) вдребезги разбивается о жесткие требования регуляторов. Пока LLM-чат-боты пытаются жонглировать сложными запросами клиентов, банки по старинке проверяют их на фокус-группах. Это медленно, дорого и совершенно не подходит для итеративной разработки. Исследователи NatWest AI Research под руководством Криштовау Иглесиаса предложили выход: концепцию Synthetic Customer Agents (SCA) — цифровых двойников, которые заменяют армию ручных тестировщиков.
Фундамент из реальных транзакций: как создаются двойники
Методология, которую команда NatWest представила на воркшопе ICLR 2026, далека от банального создания персон через ChatGPT. Это двухкомпонентный фреймворк: сначала система переваривает историю диалогов, контекст обращений и реальные транзакционные данные, превращая их в структурированные системные промпты. Такой подход гарантирует, что синтетический агент не просто имитирует человеческую речь, а действует исходя из финансового бэкграунда конкретного клиента. Как отмечают авторы исследования, это позволяет кондиционировать поведение ИИ, симулируя самые разные профили и стили общения.
«Синтетические агенты достигают высокого семантического соответствия реальным клиентам, демонстрируют низкий уровень галлюцинаций и успешно воспроизводят черты личности при контролируемых вмешательствах».
Использование транскриптов реальных бесед позволяет воссоздать типовое поведение. Однако для проверки бота на прочность исследователи используют личностное кондиционирование. Это позволяет накрутить цифровому двойнику нужную эмоцию — например, сделать его агрессивным, сбитым с толку или излишне требовательным. В результате банк получает возможность прогнать чат-бота через многоходовые диалоги, где клиент ведет себя максимально неудобно, и проверить, останется ли ИИ в рамках комплаенса.
Автоматическая валидация и надзор регуляторов
Второй столп работы NatWest — масштабируемая система оценки, где одна LLM выступает судьей для другой, попутно используя состязательные (adversarial) атаки. Протравливая чат-бота через тысячи таких синтетических взаимодействий, банк находит пограничные случаи и галлюцинации, которые человеческий глаз пропустил бы из-за замыленности. По данным NatWest AI Research, этот метод уже обкатали на клиентском боте одного из крупнейших банков Великобритании. Для регуляторов вроде FCA (Financial Conduct Authority) это весомый аргумент: фреймворк оценивает работу ИИ во всех демографических группах и эмоциональных состояниях, гарантируя отсутствие предвзятости.
Итог
Появление высокоточных синтетических агентов переводит контроль качества из реактивного режима в проактивную симуляцию. Хотя методология Иглесиаса и его коллег все еще имеет ограничения в передаче нюансов человеческой иррациональности, вектор задан четко. В индустрии, где цена ошибки — лицензия, прохождение через гаунтлет из тысяч синтетических стресс-тестов скоро станет таким же обязательным этапом, как аудит безопасности. Мы вступаем в эпоху, когда ни один финансовый ИИ не будет допущен к живому человеку, пока не докажет свою адекватность в цифровой песочнице.