Стандартные корпоративные бенчмарки до сих пор оценивают ИИ-агентов по точности финального результата — и для регулируемых отраслей этот подход в корне порочен. Корректный бизнес-ответ теряет всякую ценность, если агент пришел к нему, сославшись на просроченные исключения, непроверенные черновики или несуществующие регламенты. В ходе независимого исследования специалист Хесус Салас показал: автономные алгоритмы регулярно выдают ожидаемый результат, опираясь на невалидный контекст источников, закрывают задачи без фактического подтверждения и незаметно нарушают цепочки зависимостей.
Чтобы устранить этот архитектурный изъян, Салас разработал Matrix — внешний детерминированный слой контроля причинно-следственных связей, надстроенный над вероятностными моделями. Вместо того чтобы верить LLM на слово об успешном выполнении работы, Matrix отслеживает строгую хронологию: версионирование полномочий, факты, задачи и криптографические квитанции об исполнении. В условиях контролируемых тестов неуправляемые агенты завершали задачи на основе чистых галлюцинаций, тогда как контролируемый фреймворк требовал проверяемых подтверждений и автоматически аннулировал полученные результаты в ту же секунду, когда менялись исходные правила.
Регуляторные требования, включая статью 12 Закона ЕС об ИИ (EU AI Act) и фреймворк NIST AI RMF, запрещают использовать нечитаемые стенограммы черного ящика в качестве доказательств комплаенса. По мере взросления корпоративных архитектур критерии допуска систем в прод должны сместиться от сырой точности к детерминированной проверке происхождения данных: важно доказать не только то, какое решение приняла модель, но и было ли у нее подтвержденное право его принимать.