Лавинообразный рост исследований в сфере искусственного интеллекта привел к перегрузке научных рецензентов и резкому падению качества экспертизы. Хотя большие языковые модели превратились из простых автодополнений в рассуждающих агентов, способных формулировать сложные тезисы, базовые решения неизменно спотыкаются о фактические ошибки и галлюцинации в источниках. Решение этой проблемы требует архитектур, которые отсекают поверхностную имитацию и жестко привязывают логику рассуждений к проверяемым внешним фактам.
Объективная система наград против галлюцинаций
Исследовательская группа из Шанхайской лаборатории ИИ, Университета Цинхуа, Пекинского транспортного университета и Китайского народного университета решила эту задачу с помощью состязательной системы из двух специализированных агентов: InternReviewer и InternAdvocate. Разработанная командой ученых система обучает агента-рецензента и агента-оппонента через агентное обучение с подкреплением.
Классическое агентное обучение с подкреплением обычно опирается на схему «LLM в роли судьи», что порождает системные искажения, предвзятость моделей и нестабильность оценок. Исследователи полностью отказались от субъективных судей в пользу многомерной системы объективных вознаграждений.
«Эта система исключает предвзятость субъективной оценки моделей благодаря многомерным критериям: семантическому согласованию с первоисточниками, соблюдению структуры и строгому механизму верификации, который сверяет цитаты с логами взаимодействия в реальном времени для полного устранения галлюцинаций».
Для работы объективного вознаграждения архитектура задействует модуль активного поиска по базе arXiv. В процессе оптимизации стратегий агенты динамически извлекают научные работы для аргументации критики и ответов на нее, а функция награды программно проверяет соответствие указанных ссылок журналам поиска.
Ограничения и перенос в корпоративную среду
Состязательное обучение внутри замкнутого контура верификации заметно повышает глубину логики, связность аргументов и точность цитирования. Прямая привязка градиентов стратегии к верификации внешних документов не позволяет агентам выдумывать несуществующие методологические изъяны или ссылаться на фантомные источники в ходе дискуссии.
При этом фреймворк демонстрирует четкие границы применимости: качество рассуждений строго ограничено полнотой поисковой базы. В закрытых корпоративных средах без масштабных индексов подобная привязка к фактам потребует создания собственных векторных хранилищ. Для технических лидеров бизнеса эта архитектура выходит далеко за рамки академического рецензирования — ее можно напрямую применять для комплексного аудита проектов, автоматической технической экспертизы и контроля нормативного соответствия, где проверяемая фактология важнее внешней гладкости текста.