Ведущие лаборатории искусственного интеллекта наконец перестают делать вид, что люди пишут большую часть этого кода. Компания Anthropic сообщила, что ее модель Claude теперь автономно берет на себя до 26% задач по исследованиям и разработке для моделей следующего поколения, выполняя сложные рабочие процессы по высокоуровневым запросам под контролем человека. В феврале этот показатель равнялся нулю, а теперь на долю ИИ приходится четверть всей тяжелой работы. Это не плановое обновление — это скачок экспоненциальной скорости.
И 26% — это лишь верхушка айсберга. Claude задействован примерно в 90% всех процессов R&D компании Anthropic, работая в тесном партнерстве с инженерами, которые теперь тратят больше времени на управление агентами, чем на изучение исходного синтаксиса. К августу лаборатория развернула около 30 000 автономных агентов, одновременно выполняющих исследовательские и инженерные задачи. Когда ваше программное обеспечение начинает создавать собственные обновления, традиционный жизненный цикл разработки ПО фактически умирает.
Управленческие и этические трения
Естественно, передача ключей от создания моделей самим моделям вызвала внутреннюю панику. Один из исследователей Anthropic уволился из-за экзистенциальных рисков, связанных с рекурсивным самосовершенствованием — напоминание о том, что люди, создающие эти системы, все больше пугаются их скорости. Сама Anthropic признает, что рекурсивное ускорение делает человеческую интерпретируемость в лучшем случае запаздывающим индикатором.
«Мы должны сделать все возможное, чтобы минимизировать разрыв между тем, что знают ведущие лаборатории, и тем, что знает общественность».
В недавней публикации в блоге Anthropic призвала внедрить общедоступные методологии для отслеживания рекурсивного самосовершенствования и пообещала привлечь сторонних оценщиков к своей работе. Это аккуратный PR-жест, но призывы к регуляторному надзору на фоне одновременного запуска 30 000 автономных R&D-агентов выглядят скорее не как соблюдение норм, а как попытка записнуть двери после того, как серверы уже улетели в небеса.
Отрасль буксует из-за темпов разработки
Это откровение подчеркивает удивительное лицемерие, охватившее высшие эшелоны техсектора. Генеральный директор Anthropic Дарио Амодеи, генеральный директор OpenAI Сэм Альтман и Илон Маск публично высказывались за замедление разработки ИИ ради безопасности. Тем не менее те же руководители управляют лабораториями, которые запускают десятки тысяч автоматизированных агентов, созданных специально для резкого ускорения этой самой разработки. Индустрия требует ограничения скорости, одновременно выжимая педаль газа до упора с пассажирского сиденья.