Архитектура адаптации: конец эпохи «черного ящика»
Распределение обновлений по всем слоям нейросети при дообучении больше не просто неэффективно — это инвазивный рудимент эпохи «черного ящика». Исследователи Йельского университета Ребекка Рамнаут и Брайан Скасселstandardлати успешно составили карту «геометрии адаптации» архитектуры Transformer. Они доказали, что успех обновления модели напрямую зависит от того, совпадает ли место вмешательства с функциональной ДНК конкретной задачи. Попытка адаптировать модель через глобально распределенные изменения — это грубый инструмент, который цепляется за узкие обновления, попутно разрушая уже существующие навыки.
Глубина имеет значение: где живут знания
Согласно исследованию, лексическая связность — базовый клей для токенов — лучше всего корректируется на ранних слоях. Если вы хотите сохранить четкость синтаксиса и строгие границы знаний, следует работать в начале стека. Однако работа с фактическими ассоциациями требует иного хирургического подхода: их эффективнее обрабатывать с помощью локализованных адаптеров на поздних слоях. Когда речь заходит о сложном процедурном мышлении и причинно-следственных связях, данные показывают, что адаптация средних слоев или всего стека — единственный способ обеспечить корректный перенос знаний в новые контексты. Даже обучение поведенческим стратегиям разделено: освоение действий происходит на поздних слоях, тогда как средние слои выступают «вратарями» при управлении политиками.
Традиционный подход к равномерному распределению LoRA по всем слоям исчерпал себя. Будущее — за точечным вмешательством.
Главное для инженеров
Для разработчиков и технических руководителей выводы однозначны: эра унифицированного распределения LoRA закончена. Новым стандартом становятся хирургические, локальные вмешательства. Переходя к использованию LoRA на ранних или поздних слоях в зависимости от конкретной цели, можно наконец получить интерпретируемый контроль над поведением модели.
Синтаксис и лексика: фокусируйтесь на начальных слоях. Факты и ассоциации: используйте только поздние слои. Логика и причинность: задействуйте средние слои или весь стек целиком. Поведенческие паттерны: комбинируйте средние и поздние слои.
Это не просто экономия вычислительных ресурсов. Такой подход предотвращает галлюцинации, когда модель вписывает новые факты в ложные контексты, и защищает базовую логику от деградации. Не стоит воспринимать стек Transformer как монолитный блок, где все слои равны. Сопоставление размещения LoRA со специфической геометрией задачи — единственный способ сохранить целостность модели при масштабировании производительности. Будущее дообучения принадлежит тем, кто точно знает, где делать разрез.