Исследователи из Goodfire окончательно деконструировали миф о нейросетях как о «черных ящиках» с кашей из цифр. Выяснилось, что внутреннее пространство активаций — это не хаотичное облако данных, а строгие геометрические формы: многомерные кольца, сферы и сложные топологические поверхности. Пока рынок обсуждает «галлюцинации» как некую магическую девиацию, Goodfire наглядно демонстрирует: перед нами не оракул, а сложный инженерный объект, где любая ошибка — это просто дефект в топологии данных.
Самый показательный пример — циклические сущности вроде дней недели или временных циклов. Внутри модели Monday и Tuesday не висят в воздухе и не выстраиваются в плоский список. Они образуют замкнутую круговую траекторию. Если пытаться «проехать» от понедельника к пятнице по прямой, вы получите лишь бессмысленный шум. Адекватный результат дает только движение по дуге, со сменой угла активации. Аналогичным нелинейным образом упакованы представления о цвете, числах и даже биологической таксономии. Это касается не только текстовых LLM, но и Vision-моделей, и актуальных World Models, что доказывает универсальность феномена: нейросеть буквально «видит» структуру мира через геометрию.
Для бизнеса это открытие означает конец эпохи «квадратных колес». До сих пор индустрия пыталась управлять моделями через линейные правки весов, что математически абсурдно при работе с криволинейными структурами. Понимание neural geometry дает теоретическую базу для нелинейного «руления» (steering). Вместо того чтобы гадать, почему агент запутался в логике процесса, мы получаем карту, где любой сбой виден как сход с траектории. Это прямой путь к детерминированному AI, где каждое решение можно верифицировать геометрически.
Разумеется, до промышленного внедрения в корпоративный софт еще далеко — инструментарий для «навигации по смыслам» в реальном времени еще только предстоит собрать. Остается открытым вопрос масштабирования: насколько сложными станут эти фигуры в моделях с триллионами параметров и как выглядят многообразия для абстрактных понятий, не имеющих природных аналогов. Тем не менее, парадигма сменилась: ИИ перестал быть гаданием на кофейной гуще и стал вопросом высшей математики и правильного маневрирования в пространстве активаций.