Большие языковые модели регулярно применяются для принятия решений в автономных средах планирования, однако они систематически дают сбой, когда критически важные операционные переменные скрыты. Стандартный инженерный подход пытается закрыть эту слепую зону, объединяя модель принятия решений с моделью мира, которая симулирует последствия возможных шагов перед их выполнением. Однако исследователи Шубхам Кумар и Нарендра Ахуджа из UIUC совместно с Харшитом Кумаром и Саурабхом Джа из IBM доказали: в условиях частичной наблюдаемости одной лишь прямой симуляции принципиально недостаточно.
Моделирование траекторий оценивает развитие событий при выборе того или иного шага, что подходит для прямого достижения заданной цели. Но стандартные симуляции не способны явно показать, что именно система знает о текущем состоянии среды, а какие данные остаются скрытыми на текущем шаге.
«Симуляция сама по себе — неполный интерфейс для принятия решений в условиях неполной информации: она не отражает должным образом неопределенность относительно текущего состояния, которая необходима агентам для безошибочного выбора».
Не отслеживая уровень неопределенности текущего состояния в явном виде, автономные агенты переходят к преждевременным действиям на основе ничем не подкрепленных галлюцинаций вместо того, чтобы сначала собрать недостающие данные.
Внедрение пространств убеждений для сбора данных
Чтобы устранить этот фундаментальный изъян, команда UIUC и IBM представила основанные на убеждениях модели мира (Belief-Based World Models, BB-WMs). Эта архитектура динамически отслеживает распределение вероятностей по скрытым переменным среды — так называемое состояние убеждений (belief state), к которому языковая модель обращается напрямую во время работы.
Благодаря доступу к этой внутренней структуре агент может разделять прагматические действия, приближающие операционную цель, и эпистемические — направленные исключительно на устранение неопределенности. В бенчмарках, описанных в препринте, авторы подтверждают: прямой программный доступ к состояниям убеждений модели мира резко снижает процент ошибок в условиях частичной наблюдаемости и эффективно дополняет существующие симуляторы траекторий. Исходный код реализации опубликован в открытом доступе на GitHub.
Что это значит для бизнеса
В корпоративных процессах — от автономного изменения маршрутов поставок до алгоритмической торговли — отказ от чистой симуляции в пользу явного учета неопределенности устраняет риск незаметных сбоев ИИ-агентов. В критически важных контурах, где непроверенные допущения ведут к каскадным финансовым потерям, проверяемое состояние убеждений заставляет систему запускать протоколы верификации данных до совершения необратимых операций с капиталом. Главным барьером для масштабного внедрения остаются вычислительные затраты: инженерам предстоит научиться масштабировать динамические пространства убеждений в высоконагруженных корпоративных пайплайнах без взрывного роста расходов на инференс.