Лаборатории продолжают погоню за главной целью полностью автономных систем, которые позволяют обойти огромные затраты на разметку данных человеком и внешний контроль. Как отмечают исследователи из Sakana AI и UC Berkeley в своей недавней работе, Multi-Agent Self-Supervision, или MASS, предлагает метод рекурсивного самосовершенствования, при котором одна языковая модель справляется с задачами, оптимизирует рабочие процессы и оценивает результаты самостоятельно. Это выглядит заманчивым предложением для финансовых директоров, уставших платить за колоссальные вычислительные расходы и валидацию с участием людей. Тем не менее, проверка сложных исследований требует серьезных усилий: авторы указывают, что только одно исследование плазмы может потребовать более 120 миллионов процессор-часов. Организации, спешащие внедрить автономные агенты для сокращения накладных расходов, сталкиваются с жесткой архитектурной стеной в тот момент, когда эти системы оказываются отрезанными от внешнего бенчмаркинга.
The Illusion of Autonomous Optimization
Этот цикл оптимизации опирается на базовую модель, работающую в рамках определенной обвязки и проводящую экспериментальные настройки в финансах, робототехнике и фармацевтике. Когда система проходит через эти циклы, внутренние метрики проецируют картину устойчивого и беспрепятственного прогресса. На тестовых задачах коэффициент побед по сравнению с базовой моделью вырастает почти до 70 процентов после двух циклов оптимизации.
Рост базовых показателей порой оказывается незначительным, в то время как на других бенчмарках результаты слегка падают.
За этими отполированными победными отчетами скрывается довольно запутанная операционная реальность. Обучение на сгенерированных решениях одновременно обновляет и оценщика, и оптимизатор, создавая замкнутый круг взаимного одобрения. Внешние судьи могут отдавать предпочтение результатам команд, однако эти команды генерируют лишь больше токенов вместо реального понимания. По нашему мнению, масштабирование архитектур автономных агентов без жестких механизмов внешней валидации — это прямой путь к внедрению невыявленных ошибок, галлюцинаций и логических пробелов прямо в ключевые бизнес-процессы компании.