Пока рынок униженно стоит в очереди за серверным железом от NVIDIA, в macOS 15.2 тихо «приземлилась» поддержка RDMA через Thunderbolt. По словам энтузиастов, протестировавших связку из четырех Mac Studio на чипе M3 Ultra, это превращает стопку компактных компьютеров в единый пул памяти объемом 1,5 ТБ. Инструмент Exo 1.0 позволяет распределять задачи в этой локальной сети, обрушивая задержки при обращении к памяти с 300 мкс до скромных 50 мкс. Для контекста: это на порядок больше памяти, чем предлагают системы DGX от Nvidia или платформы на чипах AMD, где потолок зачастую ограничен куда более скромными значениями.
Технологический стек и механика
Механика этого «настольного дата-центра» ценой в $40 000 выглядит как изящный обход искусственного дефицита. Два узла по 512 ГБ памяти ($11 699 за штуку) и пара модулей попроще формируют среду, где «тяжелые» модели с огромным числом параметров чувствуют себя как дома. При этом вся конструкция потребляет меньше 250 Вт и работает почти бесшумно, что выгодно отличает её от серверного железа с его истошным воем кулеров и аппетитами к электросетям. На наш взгляд, это идеальный сценарий для суверенного локального инференса, когда данные нельзя выпускать в облако, а бюджет на H100 еще не согласован.
«Поддержка RDMA превращает Thunderbolt из порта для флешек в серьезную шину обмена данными, способную конкурировать с серверными решениями в специфических задачах», — подчеркивают исследователи.
Инфраструктурные нюансы
Соединение держится на «гирлянде» кабелей Thunderbolt по $70 за штуку. Кабели лишены серверной фиксации типа QSFP и могут вылететь при любом неосторожном движении. Кнопки включения на задней стенке и нестандартные шнуры питания Apple превращают монтаж в стойку в изощренную форму мазохизма. Инструментарий Exo 1.0 пока остается решением для тех, кто готов к ручной настройке и не боится терминала.
Apple фактически возродила дух своих серверов Xserve и системы Xgrid из нулевых. Сделано это было либо случайно, либо в рамках очень тонкой игры по захвату рынка edge-вычислений. Мы видим в этом реальный инфраструктурный сдвиг: вместо того чтобы ждать милости от Дженсена Хуанга, компании могут собирать монструозные по объему памяти системы из «бытового» железа. Это решение не для массового продакшена, но для R&D-департаментов, работающих с гигантскими весами моделей здесь и сейчас, альтернатив по соотношению цены и объема памяти просто не существует.