Оснащение агентов на базе больших языковых моделей многоразовыми знаниями предметной области все больше сосредоточено вокруг навыков агентов — структурированных пакетов инструкций и скриптов, предназначенных для конкретных задач. Исследовательская группа в составе Васу Топа Пириякулкиджи, Рэйчел Лоуренс, Алисии Курт, Сушрута Кармалкара и Ниранджани Прасад из Корнеллского университета и Microsoft Research Cambridge оценила, как языковые модели выполняют эти библиотеки знаний в ходе расширенных рабочих процессов.
Узкое место контекста при выполнении навыков
В рамках стандартной парадигмы навыки агента работают путем загрузки инструкций непосредственно в основное контекстное окно агента и полагаются на то, что модель будет следовать им. По мере расширения горизонтов задач этот механизм сталкивается с серьезными структурными ограничениями. Качество рассуждений неуклонно снижается по мере накопления инструкций и промежуточных результатов в едином контекстном окне, что делает долгосрочные рабочие процессы хрупкими.
"По мере роста горизонтов задач этот подход становится все более хрупким, поскольку качество рассуждений деградирует по мере накопления информации в контекстном окне."
Каждый навык агента определяется как пакет навыков: многофайловый пакет, содержащий инструкции и скрипты, которые помогают решать конкретные задачи. Когда агент постоянно добавляет эти наборы инструкций в свой активный контекст, накапливающаяся информация создает нагрузку на способность базовой модели поддерживать когерентные рассуждения при достижении многошаговых целей.
Делегирование выполнения изолированным субагентам
Чтобы обойти проблему перегрузки контекста, исследователи изучили альтернативную архитектуру: вызов пакетов навыков в качестве специализированных субагентов. Вместо загрузки инструкций в первичный контекст, выполнение субагента порождает новые контекстные окна, предназначенные для решения отдельных подзадач. Субагенты выполняют необходимую работу независимо в рамках своей чистой рабочей среды и возвращают главному контроллеру только финальный результат.
Исследователи оценили процедурные пакеты навыков, управляемые контрактами. Выполнение субагентами систематически превосходит выполнение навыков в контексте, когда пакеты навыков предоставляют четкие контракты ввода-вывода, а их инструкции кодируют процедурные знания, необходимые для выполнения этих контрактов. Разделяя операции по отдельным средам, система сокращает максимальный объем информации, обрабатываемой любым отдельным контекстным окном.
Компромиссы координации в модульных архитектурах
Структурное преимущество модульности субагентов влечет за собой прямой операционный компромисс в виде накладных расходов на коммуникацию. Дополнительные токеновые ресурсы требуются для координации и передачи сообщений между главным оркестратором и делегированными субагентами. Полезность многоразовых хранилищ знаний в автономных конвейерах зависит не только от качества их инструктивного контента, но и принципиально от того, организованы ли эти знания и вызываются ли через изолированные среды выполнения.