Anthropic изменила подход к обработке тяжелых API-нагрузок в своей инфраструктуре, отказавшись от постоянной повторной передачи полной истории диалога. Компания запустила публичную бету функции Message Threads на платформе Claude, устраняя сетевые накладные расходы, замедляющие работу автономных агентов.
Ранее каждый вызов API требовал от клиента повторной отправки всей предшествующей истории переписки. В рамках нового механизма Message Threads передает только дельту — изменения, произошедшие с момента предыдущего сообщения. По данным Anthropic, это нововведение сокращает время до генерации первого токена (time to first token) примерно на 35% при обработке контекстов большого объема от 500 000 до 1 миллиона токенов. Основной прирост производительности получают кодинг-агенты, системы управления интерфейсом (computer-use) и пайплайны обработки массивов документов и изображений.
Базовая экономика расхода токенов остается прежней: Claude продолжает считывать полную историю контекста при каждом запуске. Сам тред хранится в зашифрованном виде в оперативной памяти между взаимодействиями и автоматически удаляется после пяти минут неактивности. Для корпоративных клиентов, развертывающих сложные рабочие процессы, обновление доступно напрямую через платформу Claude, а также через интеграции в AWS, Microsoft Foundry и Google Cloud.
Что за этим стоит
Раньше клиентам приходилось гонять полные мегабайты истории при каждом запросе, а теперь Message Threads оставляет контекст в памяти серверов и принимает только свежие изменения. Этот переход на передачу дельты логично дополняет тарифную сетку моделей Anthropic, где еще в начале сентября снизили цену чтения кэша до $0,25 за миллион токенов ради тяжелых агентских сценариев.
Наши материалы: Экономика Claude Fable 5.1: скидки на кэш и рост TCO (3 сентября).