Современные ИИ-кодеры напоминают высококвалифицированных амнезиков, которые вынуждены перечитывать внутреннюю википедию при каждом движении пальца. Свапнанил Саха в своей работе «Delivery, Not Storage» (Доставка, а не хранение) ставит диагноз: архитектура, завязанная на осознанном поиске (RAG), стала «бутылочным горлышком». Мы заставляем агента самостоятельно решать, что записать в память и когда это прочитать. Результат — катастрофическая потеря ресурсов и регулярные провалы.
Человеческая экспертиза работает иначе. Опытный разработчик не ищет в документации каждый «костыль» проекта; нужные факты (gotchas) всплывают в сознании непроизвольно, как реакция на контекст задачи. Саха доказывает, что для автономных систем память должна стать не инструментом, который агент выбирает по желанию, а неотъемлемым свойством управляющего контура (harness property).
Провал волевых инструментов памяти
Идея дать агенту инструменты для управления собственной памятью провалилась на практике. Как показывает исследование, проспективная память — способность действовать с учетом скрытых ограничений при появлении триггера — дается моделям на порядки сложнее, чем обычный ретроспективный поиск. В контролируемом тесте агент, снабженный всеми необходимыми знаниями и инструментами для работы с памятью, за 114 итераций не сделал ни одного обращения к своим архивам. Даже когда инструменты под рукой, модель ими просто не пользуется.
Надежный канал памяти для агента — это тот, о котором ему не нужно думать.
Разрыв между хранением и доставкой данных обнажает фундаментальный дефект: мы до сих пор относимся к памяти как к контенту, который нужно впихнуть в контекстное окно, а не как к детерминированному механизму среды.
Инъекция по триггеру против деградации контекста
Модель Cue-Anchored (привязка к сигналу), предложенная Сахой, превращает воспоминания в объекты первого класса с жесткими условиями активации: путями к файлам, символами, событиями или временными маркерами. В этой схеме не агент, а сама среда исполнения (harness) анализирует ситуацию и «впрыскивает» релевантные факты в нужный момент. Эффективность доказана жестким стресс-тестом на сжатие контекста: десять критических фактов, удерживаемых просто в истории чата, испарились при первой же суммаризации. При использовании Cue-Anchored те же данные успешно прошли через 138 циклов доставки без единой потери.
Продукт — это доставка, а не хранение.
В финале эксперимента дошло до абсурда: агент, лишенный нормальной памяти, начал вручную грепать (grep) собственные файлы сессии с диска, пытаясь на коленке собрать подобие того самого операционного слоя, который должен был обеспечить фреймворк. Это явный сигнал рынку: пора перестать раздувать контекстные окна и начать выносить память из плоскости контента в плоскость управления. Для инженеров это означает переход от «умного» RAG к жестким детерминированным структурам, которые скармливают агенту контекст на основе файловых путей и символов. Агент должен быть пассажиром собственной экспертизы, а не библиотекарем-неудачником.