Сервис Amazon Web Services предоставил разработчикам инструмент для взлома аппаратной монополии NVIDIA. В понедельник облачный гигант выпустил TorchNeuron — решение, предназначенное для миграции ИИ-приложений на фирменные чипы Trainium компании Amazon путем изменения всего одной строки конфигурации без необходимости переписывать код. Этот релиз напрямую бьет по программному преимуществу, которое сделало NVIDIA де-факто главным аппаратным выбором для ИИ-приложений и закрепило ее доминирование на рынке. TorchNeuron интегрируется с PyTorch — опенсорсным фреймворком, который разработчики используют для создания, обучения и запуска моделей. Согласно заявлению Amazon, для переноса рабочих нагрузок на базе PyTorch на аппаратное обеспечение Trainium достаточно изменить одну строку конфигурации.
Компания NVIDIA годами привязывала свою программную инфраструктуру CUDA к PyTorch, гарантируя, что ее графические процессоры по умолчанию остаются глубоко интегрированными в рабочие процессы разработчиков. Как отмечает Amazon, примерно 85% ИИ-приложений опираются на PyTorch. Первоначально созданный Facebook* и ныне поддерживаемый Linux Foundation, PyTorch служит универсальным абстрактным слоем для машинного обучения. Поскольку TorchNeuron адаптируется непосредственно к этому фреймворку, разработчики, знакомые с PyTorch, практически не сталкиваются с необходимостью обучения. Такая же архитектурная гибкость позволяет пользователям PyTorch перенаправлять свои задачи на графические процессоры AMD или процессоры Apple silicon с помощью незначительных правок конфигурации.
Экономика и облачная интеграция
Amazon утверждает, что миграция рабочих нагрузок на Trainium дает не просто выбор железа, а прямой доступ к более широкой облачной экосистеме Amazon. AWS позиционирует это как более рациональный выбор для стартапов по сравнению с использованием неооблаков, привязанных к оборудованию NVIDIA, таких как CoreWeave, Nebius и Firmus. Как заявил по электронной почте Колин Брейс (Colin Brace), вице-президент по технологическому ПО в AWS Annapurna Labs:
Вы строите инфраструктуру на AWS. Вы не делаете ставку на узкоспециализированного провайдера вычислений, лихорадочно пытаясь выстроить все остальное вокруг него.
В AWS настаивают, что благодаря поддержке обучения и инференса на единой платформе и тесной интеграции с существующей облачной инфраструктурой Trainium снижает общие расходы на вычисления, даже если конкуренты предлагают более низкие спотовые цены за токен. Экономическое обоснование базируется на соотношении цены и производительности и операционной консолидации. Провайдер голосового ИИ Deepgram перенес свои рабочие нагрузки на Trainium, используя нативную поддержку PyTorch, и теперь обрабатывает на 70% больше аудио на один доллар при производственной точности, составляя прямую конкуренцию ElevenLabs.
Апстрим-переработка фреймворка
Стратегия Amazon выходит за рамки предложения удобного выхода в собственное облако. Компания активно внедряет изменения кода напрямую в основной проект PyTorch, работая в сотрудничестве с сообществом разработчиков над устранением привязки к железу NVIDIA. Явная цель состоит в том, чтобы сделать PyTorch независимым от аппаратного обеспечения, нейтрализуя программную привязку, которая исторически диктовала инфраструктурные бюджеты.
Хотя эта инициатива идет на пользу конкурентам, продающим альтернативные чипы и облачные мощности, она также порождает операционные трения. Главное обещание PyTorch всегда заключалось в том, чтобы избавить разработчиков от головной боли при запуске кода на разнообразном оборудовании. Инженерным командам предстоит выяснить, обеспечит ли стремление Amazon к аппаратной независимости реальное снижение затрат или просто породит новые конфигурационные узкие места. Как заметил Колин Брейс, глубинный замысел заключается в разрушении программных барьеров, изначально ограничивавших выбор для бизнеса.