Стремительное развитие архитектур искусственного интеллекта создает колоссальную нагрузку на энергосистемы и централизованные электросети. По мере того как вычислительные кластеры требуют все больше мощностей, разработчики оборудования сталкиваются с жесткими физическими ограничениями при попытке запускать нейросети на периферийных устройствах. В ответ на эти операционные вызовы инженеры Техасского университета в Остине совместно с TSMC разработали и протестировали память SOT-MRAM (магнитную оперативную память на основе спин-орбитального момента), призванную устранить проблемы задержек и высокого энергопотребления традиционных периферийных вычислений.
Быстрое переключение и физика энергонезависимой памяти
Традиционные архитектуры электронной памяти, такие как SRAM и DRAM, удерживают данные за счет постоянного электрического заряда, что приводит к непрерывной фоновой утечке энергии даже в режиме простоя. SOT-MRAM обходит это ограничение: технология использует собственные магнитные состояния электронов — управляемые с помощью спин-орбитального момента — для хранения двоичной информации без постоянной подачи тока. Поскольку структура сохраняет магнитную ориентацию при отключении питания, память является полностью энергонезависимой. Это позволяет встроенным процессорам полностью обесточивать шины питания между активными циклами вычислений.
В ходе аппаратных тестов, опубликованных в журнале Science Advances, команда исследователей из UT Austin и TSMC зафиксировала время операции записи в 2 наносекунды при энергопотреблении всего 2 пикоджоуля на операцию. Стандартным технологиям памяти для аналогичного переключения часто требуются миллисекунды и сотни пикоджоулей. Инженеры подтвердили эффективность чипа на типовых задачах периферийных вычислений: инференсе нейросетей, обучении бинарных нейросетей и вероятностном графовом моделировании.
«Уникальное сочетание скорости, энергоэффективности и долговечности делает SOT-MRAM идеальным решением для AI-приложений, особенно в устройствах с жесткими ограничениями по питанию и памяти», — отметил Сэм Лю, ведущий автор исследования и выпускник аспирантуры UT Austin.
Команда Лю решила фундаментальную проблему магнитных ячеек, которые по своей природе поддерживают только два состояния. Разработав архитектуру, эффективно распределяющую веса нейросети в рамках бинарных ограничений, инженеры сохранили высокую точность вычислений в бенчмарках при ультранизком энергопотреблении магнитного переключения.
Локальные вычисления и системная архитектура
Интеграция быстрой энергонезависимой памяти напрямую в периферийные процессоры меняет принципы обработки данных в сенсорах и автономных системах. Локальные аппаратные ускорители на базе SOT-MRAM способны принимать мгновенные решения с минимальной задержкой без отправки сырых данных с датчиков в удаленные облачные дата-центры. Это снижает нагрузку на региональную инфраструктуру — актуальный фактор для таких хабов, как Техас, где расширение дата-центров может увеличить энергопотребление штата в пять раз в ближайшие годы.
Джин Энн Инкорвия, доцент Инженерной школы Кокрелла при UT Austin и научный руководитель проекта, пояснила, как локальная магнитная обработка данных выстраивает функциональную иерархию в автономных системах. Например, роботизированная рука при контакте с горячей поверхностью может мгновенно принять решение отдернуть манипулятор на локальном уровне, не отправляя сигнал на центральный сервер, а облачные GPU-мощности останутся задействованными только для высокоточных операций.
Успешное производство партии на мощностях TSMC доказало, что кроссбар-архитектуры магнитной памяти совместимы со стандартными коммерческими кремниевыми техпроцессами и выходят за рамки университетских лабораторий. Однако массовое внедрение зависит от решения проблемы вариативности характеристик элементов на кремниевых пластинах большого диаметра, которая пока снижает точность нейросетей. Сейчас исследовательская группа сосредоточена на повышении производственных допусков, чтобы добиться стабильного переключения ячеек перед выводом SOT-MRAM в коммерческие чипы.