12 сентября в опубликованном эссе генеральный директор Anthropic Dario Amodei призвал мировой сектор искусственного интеллекта замедлить темпы наращивания возможностей моделей. Однако внутри самой компании из Сан-Франциско, которая готовится к выходу на биржу в конце этого месяца в рамках потенциально крупнейшего IPO акций в истории, динамика разработки пошла в противоположном направлении.
Аудит некоммерческой исследовательской группы Model Evaluation and Threat Research (METR) из Беркли показал: Anthropic разрабатывает свои системы ИИ примерно вдвое быстрее, чем год назад. Публичные призывы к паузе в отрасли и регуляторным ограничениям маскируют интенсивный операционный разгон перед дебютом на Уолл-стрит, вызывая закономерные вопросы о том, опережают ли внутренние циклы разработки внешнее управление намеренно.
Внутренняя скорость против публичной осторожности
METR провела аудит после того, как Anthropic пригласила исследовательскую группу изучить внутренние данные и провести интервью с сотрудниками в течение 11-недельного периода — с середины августа по конец октября. Оценка была сфокусирована на том, ускоряется ли темп роста возможностей моделей по экспоненте и какая доля этого прироста получена благодаря автоматизации рабочих процессов.
В эссе от 12 сентября, отвечая на растущие опасения по поводу неконтролируемого ИИ, CEO Anthropic Dario Amodei призвал индустрию «замедлить темпы, с которыми мы наращиваем возможности моделей ИИ».
Тем не менее ровно в тот период, когда независимые оценщики анализировали внутренние отчеты компании, Amodei призывал рынок притормозить, чтобы стандарты безопасности успевали за прогрессом. METR обнаружила, что собственный публичный отчет Anthropic о рисках, выпущенный в августе, занижал реальное ускорение разработки по сравнению с внутренней документацией и закрытыми данными, переданными аудиторам.
Петля обратной связи самосовершенствующихся систем
Механика этого сдвига носит структурный характер и не связана с простой закупкой дополнительного серверного оборудования. METR уверенно исключила масштабирование вычислительных мощностей при обучении как главный драйвер ускорения. Эксперты установили, что физические узкие места — дефицит вычислительных мощностей или лимиты данных — не сдерживали прогресс Anthropic. Напротив, компания подтвердила: ее чат-бот Claude все активнее помогает инженерам создавать новые, более продвинутые итерации самого себя.
Комментируя результаты аудита в соцсети X, сооснователь и директор по ответственному масштабированию Anthropic Сэм Маккэндлиш согласился со многими выводами METR, отметив, что ИИ действительно ускоряет внутренние исследования, хотя точный масштаб эффекта выделить сложно. Маккэндлиш подчеркнул: текущие темпы прогресса ставят серьезные вопросы перед протоколами безопасности, поскольку напрямую определяют скорость появления новых рисков. В то же время Anthropic цензурировала часть данных перед публикацией отчета.
Сэм Маккэндлиш признал, что скрытые фрагменты затрудняют внешнюю верификацию выводов METR, но объяснил эту меру коммерческой тайной: раскрытие того, «что именно обеспечивает это ускорение, несет риски передачи дорожной карты конкурентам».
Подобная ссылка на коммерческую тайну затрагивает фундаментальную проблему, выявленную аудиторами. В METR признали, что их базовая оценка может преувеличивать общесистемное ускорение: зафиксированный двукратный рост производительности может относиться лишь к строго определенному набору задач. Скрывая технические детали разгона, Anthropic защищает технологическое преимущество от конкурентов, но одновременно лишает сторонних аудиторов возможности проверить, выходит ли петля обратной связи за пределы узких операционных тестов.
Независимый аудит неизбежно упирается в структурные ограничения, когда в приоритет ставятся корпоративные цели. Amodei призывал рынок нажать на тормоза, пока инженерные команды Anthropic удваивали темпы работы, готовясь оправдать ожидания Уолл-стрит.
Что это значит
Dario Amodei публично требует от всей индустрии нажать на тормоза ради безопасности, но внутри Anthropic скорость разработки скакнула в два раза. Никакой магии железа здесь нет — компания просто посадила модель Claude дописывать саму себя, пока независимые аудиторы из METR пытались сопоставить закрытые логи с бравурными отчетами. Когда на горизонте маячит оценка в 965 миллиардов долларов, разговоры об осторожности превращаются в отличный способ притормозить конкурентов перед звонком на бирже. Сумеет ли Amodei убедить биржу в контроле над рисками, когда компания цензурирует отчеты собственных аудиторов перед выходом на торги?
Наши материалы: IPO Anthropic на $965 млрд: вызовы и конкуренция с Китаем (12 августа); IPO Anthropic: убытки в $8 млрд и затраты на $518 млрд (29 сентября).