Автономные агенты для глубоких исследований с треском проваливают тест на профпригодность в открытых средах. Пока рынок грезит о полной автоматизации аналитики, исследование Пекинского университета почты и телекоммуникаций совместно с Шанхайской лабораторией ИИ обнажает системную уязвимость: Deep Research агенты критически беззащитны перед «правдоподобной» дезинформацией. С помощью фреймворка MisKnow-Agent исследователи доказали, что даже минимальное вкрапление убедительно выглядящей лжи отравляет весь рабочий цикл — от планирования до синтеза финального отчета.
Искаженные данные не просто попадают в выборку — они становятся фундаментом, на котором агент выстраивает дальнейшие шаги, сжимает информацию и делает ложные выводы, которые выглядят как результат тщательного анализа.
Главное в исследовании
Уязвимость носит фундаментальный характер: это не случайная галлюцинация, а сбой логики при обработке многоэтапных задач. Верификационные модели распознают фейк при прямой проверке факта, но игнорируют его, если он встроен в сложный процесс синтеза данных. Эксперименты на базе шести тысяч сценариев показали, что ни продвинутое планирование, ни навыки работы с текстом не защищают от дезинформации. Существующие методы фильтрации лишь незначительно снижают уровень недостоверности в итоговых отчетах.
Риски для бизнеса и стратегия защиты
На наш взгляд, индустрия столкнулась с парадоксом. Для бизнеса это означает прямую угрозу: стратегические решения в R&D или финтехе рискуют быть принятыми на основе индустриально синтезированной фикции. Слепое доверие автономным пайплайнам сегодня превращается в управленческий риск.
Чтобы ИИ-аналитика не превратилась в генератор удобных, но ложных мифов, необходимо внедрять независимые слои верификации и криптографический контроль источников на уровне архитектуры фреймворка. Без жесткого контроля доказательной базы любая «автономная экспертиза» остается не более чем дорогой и опасной иллюзией.