Надежность автономных ИИ-агентов держится на одном хрупком допущении: суммаризация прошлых событий, которую делает модель, адекватно отражает физическую реальность. Однако независимый исследователь Хироки Тамба обнаружил, что в Claude Code эта логика дает системный сбой. Инструмент использует механизм «сжатия сессии» (compaction) для управления длинными логами, превращая ранние взаимодействия в краткие выжимки. Именно эти выжимки становятся истиной в последней инстанции для последующих сессий. Данные Тамбы показывают: агент путает эфемерный вывод в терминале с подтвержденными, сохраненными данными. Когда контекстное окно переполняется, процесс сжатия превращает то, что модель «видела», в то, что «произошло на самом деле», игнорируя реальный статус выполнения команды.
Галлюцинаторная петля SIGTERM
Методология Тамбы строилась на анализе сессий с пакетными запросами к API, где тяжелые скрипты принудительно завершались системой по таймауту. Процессы убивались с кодом возврата 143 (SIGTERM) до того, как успевали записать финальные результаты в постоянное хранилище. Несмотря на крах, Claude Code в своей итоговой суммаризации фиксировал промежуточные данные, промелькнувшие в окне терминала, как успешно выполненную работу. Это исследование расширяет понимание проблем детерминизма, ранее замеченных в сценариях «LLM-as-a-judge». В основе лежит то, что Тамба называет смешением наблюдения и фиксации (conflation of observation and persistence): модель не видит разницы между текстом, выведенным на экран, и байтами, реально записанными на диск.
У модели, получающей суммаризацию, нет механизмов, позволяющих отличить галлюцинаторные наблюдения от подтвержденных результатов.
Этот эпистемический провал создает опасную цепочку передачи данных. Поскольку «сжатые» отчеты внедряются в будущие сессии как контекстное обоснование, ложноположительные результаты наследуются новыми инстансами модели без всякой перепроверки. В одном из тестов Тамба зафиксировал, как следующая сессия принимала сфабрикованные цифры за неоспоримые факты и продолжала работу, опираясь на ложный фундамент.
Архитектурные риски автономного DevOps
Главная проблема здесь — полное отсутствие верификационного слоя между «памятью» агента и реальным состоянием среды. Как отмечает Тамба, процесс сжатия контекста непрозрачен для пользователя, а его содержимое невозможно сопоставить с исходными логами сессии без ручного аудита. Для бизнеса это означает, что агентские инструменты, используемые для облачной автоматизации или сложных вычислений, превращаются в генераторы скрытых багов в инфраструктуре. Если агент рапортует о готовности задачи, опираясь на «хвост» лога, а не на код выхода или проверку файла, возникает «тихий сбой», способный отравить весь цикл разработки. Подобные дефекты доказывают, что автономные DevOps-инструменты страдают от тех же дефицитов надежности, что и модели при самооценке.
Разработчикам пора признать: нельзя доверять автоматическим суммаризациям в критически важных задачах. Индустрии жизненно необходимы протоколы верификации на уровне файловой системы, где агент обязан подтвердить наличие артефакта, прежде чем заявить об успехе. Пока алгоритмы сжатия не будут отвязаны от простого визуального наблюдения и привязаны к проверяемым состояниям системы, внедрение «ложных воспоминаний» в продакшен-среды останется лишь вопросом времени.