Отслеживание мультисистемных данных ИИ-агенты, использующие различные инструменты, всё чаще взаимодействуют с несколькими эндпоинтами одновременно через Model Context Protocol. Вместо того чтобы полагаться на один извлеченный фрагмент, автономный агент может делать запросы к базам данных, читать учетные записи, вызывать поисковые инструменты и извлекать метаданные перед формированием ответа. Хотя такая структура расширяет круг задач, с которыми справляется агент, она усложняет проверку фактов, когда утверждения из разных инструментов смешиваются воедино.
Традиционные бенчмарки достоверности оценивают, подтверждается ли утверждение агента объединенным массивом извлеченного контекста. Такой подход упускает из виду межсистемную путаницу, когда агент заявляет факт, верный в выводе одного инструмента, но приписывает его другому. 29 сентября 2026 года исследователи Антонио Тьене, Андер Альварес Санс, Оливер Виржади и Алессандро Генуарди из MultiverseComputingCAI опубликовали научную работу под названием ProvenanceGuard: Source-Aware Factuality Verification for MCP-Based LLM Agents, призванную устранить этот пробел.
Архитектура конвейера верификации ProvenanceGuard работает как постгенерационный слой верификации, расположенный поверх черного ящика MCP-агента. Фреймворк считывает записанный след выполнения Model Context Protocol, получая прямой доступ к выводам инструментов и соответствующим идентификаторам источников без необходимости дообучения базового агента.
"ProvenanceGuard — это постгенерационный слой верификации, который располагается поверх черного ящика MCP-агента."
В экспериментальном конвейере, оцененном авторами, локальные модели обрабатывали следы выполнения в контролируемой автономной среде. Локальная языковая модель декомпозирует сгенерированные ответы на отдельные утверждения, MiniLM определяет релевантный источник для каждого утверждения, а верификатор естественного языка DeBERTa определяет, действительно ли назначенное утверждение подкреплено источником.
Эмпирические результаты и компромиссы По мере того как автономные агенты переходят от ответов на вопросы по одному документу к оркестрации множества систем через MCP, экономика ошибок смещается от раздражающих галлюцинаций к корпоративной ответственности. Без строгой проверки с учетом источников компании сталкиваются с нарастающими операционными сбоями и дорогостоящими юридическими рисками каждый раз, когда агент галлюцинирует при перекрестной сверке баз данных. Фреймворк от MultiverseComputingCAI доказывает, что вам не нужно дообучать массивные базовые модели для обеспечения подотчетности; достаточно провести аудит следа выполнения до того, как результат попадет в продакшен.