Главная проблема современных мультимодальных нейросетей — их поразительная хрупкость в процессе дообучения. Исследователи из корейского института ETRI подтверждают диагноз: как только GPT-4 или Claude пытаются расширить базу знаний, они спотыкаются о «катастрофическое забывание». В попытке обновить внутренние параметры под новые данные система попросту стирает или искажает то, что выучила ранее. Этот «цифровой Альцгеймер» особенно болезнен в мультимодальном контексте, когда нужно синхронно обновить и текст, и связанные с ним визуальные образы. Вместо стройной картины мира на выходе получается винегрет из галлюцинаций и конфликтующих фактов. Группа ученых из ETRI под руководством Лим Су Чжона в сотрудничестве с Пхоханским университетом науки и технологий предложила перестать «копаться в мозгах» и перейти к внешней архитектуре памяти.
Внешняя память вместо лоботомии
Классическое редактирование знаний сегодня напоминает инвазивную нейрохирургию: мы пытаемся принудительно переписать веса модели, чтобы заставить ее выучить новый факт. Проблема в том, что такая деформация структуры неизбежно ведет к деградации всей системы. Технология MemEIC (Continual and Compositional Knowledge Editing), представленная ETRI, выбирает путь терапевтического вмешательства. Вместо того чтобы перекраивать базовую модель, MemEIC выносит новые знания во внешнюю вспомогательную память. Это гарантирует, что фундаментальные веса остаются нетронутыми и стабильными, а значит, старые навыки не «вымываются» при каждом обновлении.
Такой подход позволяет гибко добавлять информацию, извлекая ее только по мере необходимости. Мы сохраняем стабильность существующей модели, не превращая ее в нестабильный черновик.
Экономика точечных правок и композитная точность
Команда ETRI на практике доказала, что внешняя память справляется с задачей извлечения контекста в разы эффективнее, чем бесконечные циклы дообучения. Для бизнеса это означает радикальный сдвиг в сторону снижения совокупной стоимости владения (TCO). Вместо того чтобы тратить миллионы на полную перетренировку модели ради исправления пары устаревших фактов, MemEIC предлагает точечное редактирование. Это критически важно для создания автономных агентов, способных поддерживать актуальную институциональную память в реальном времени. Впрочем, к масштабируемости MemEIC на уровне систем класса GPT-4o остаются вопросы: как поведет себя архитектура при каскаде из тысяч композитных правок, покажет лишь стресс-тест в продакшене. Однако текущий результат ETRI намекает, что будущее ИИ — не за раздутыми монолитами, а за модульными системами, которые умеют вовремя заглядывать в «шпаргалку» внешней памяти, не ломая при этом собственный базис.