Масштабные капиталовложения в автономные агентные системы постоянно упираются в стену непрозрачных результатов, что напрямую вредит финансовому планированию R&D. Когда компания направляет миллионы долларов на вычислительные ресурсы для решения сложных задач, астрономические счета за электроэнергию требуют детальной видимости каждого потраченного доллара. Согласно отчету The Decoder, OpenAI выпустила объемный препринт на 166 страницах, в котором якобы решает уравнения Навье — Стокса, громко заявляя о совпадении с фундаментальным подходом испанских математиков. Независимые эксперты, однако, быстро вывели реальную подоплеку на чистую воду под маркетинговой оболочкой.
Математик из EPFL отметил, что детальный анализ демонстрирует принципиально иной подход, а разрекламированные сходства оказываются совершенно поверхностными. Заявленное доказательство написано на Lean — языке формальной верификации, который проверяет логические шаги, но остается абсолютно нечитаемым для человеческих рецензентов. Вместо прорыва компания вывалила на рынок огромный массив данных, вынуждая институциональных исследователей вручную проверять методологии, которые изначально должны были быть прозрачными.
Инфраструктурный тупик роев агентов
Экономика тяжелых вычислений на этапе разработки моделей неизбежно сталкивается с хаотичным распределением ресурсов и падающей предельной отдачей.
По словам исследователя OpenAI Ноама Брауна, никто на самом деле не понимает, какой вклад эта масштабная рой-система внесла в результат.
Поведение систем при таких экстремальных нагрузках остается неизученной черной дырой, главным образом потому, что запуск систематических бенчмарк-тестов на тысячах агентов требует непомерных затрат. У разработчиков нет диагностических инструментов, чтобы изолировать конкретный компонент роя, который привел к нужному результату, в то время как исследователи оценивают реальный вклад мультиагентной настройки менее чем в 10 процентов.
Управление рисками в условиях черного ящика
Подобное отсутствие верифицируемых процессов генерации порождает гораздо больше, чем академические споры — оно создает прямые юридические и репутационные риски для корпоративных заказчиков. До публикации материала математик из NYU обвинил OpenAI в использовании промышленных наработок, созданных совместно с исследователем Anthropic с использованием общедоступных моделей. OpenAI категорически отвергла эти обвинения, настаивая на том, что подобные данные не использовались.
Как отмечает представитель Института перспективных исследований (Institute for Advanced Study), получить окончательный аудиторский след для обучающих данных практически невозможно, поскольку фронтир непрозрачны. Напряжение усилилось, когда OpenAI без предупреждения выложила на GitHub еще 400 результатов в виде открытой коллекции, оставив математическое сообщество тонуть в непроверенных данных и вызвав широкое недовольство среди исследователей.
Громкие обещания автоматизировать научные прорывы и сократить расходы на R&D за счет пар автономных агентов раз за разом разбиваются о суровую невозможность промежуточного аудита. Предприятия вынуждены оплачивать гигантские счета за электричество и вычисления, получая взамен непрозрачные результаты и все более отчужденное академическое сообщество. Слепая вера в алгоритмические черные ящики — это не стратегия, а дорогая игра в рулетку с капиталом акционеров.