DeepSeek открыла исходный код DeepInfer под лицензией Apache 2.0, предоставив свою проприетарную инфраструктуру обслуживания для локального развертывания. Согласно отчету The Decoder, DeepInfer выступает в качестве базового уровня выполнения для модели V4.1-Flash, управляя запросами инференса в больших масштабах.

Фреймворк напрямую опирается на оптимизации vLLM, включая пользовательские вычислительные ядра, распределенную межчиповую обработку и ускоренные процедуры генерации текста. В DeepSeek подтвердили, что будущие итерации моделей будут поставляться с той же инфраструктурой обслуживания.

Репликация обработки токенов API

Параллельно с движком DeepSeek выпустила утилиту deepseek-recipe, предназначенную для точного воспроизведения поведения токенизации официального API DeepSeek на частной инфраструктуре.

Как компания заявила на X, заявленная цель заключается в снижении вычислительных затрат, сокращении энергопотребления и повышении доступности AI-инфраструктуры.

Этот выпуск создает прямое ценовое давление на западных поставщиков API, таких как OpenAI и Anthropic, заставляя корпоративных покупателей сопоставлять маржинальность управляемых сервисов с совокупной стоимостью локальной эксплуатации.

Риски для западных поставщиков

Если западные AI-компании не достигнут целевых показателей роста из-за сжатия маржи и более дешевых альтернативных вариантов инфраструктуры, такой результат создаст очевидный риск распределения капитала для корпоративных покупателей.

Корпоративные клиенты теперь сталкиваются с жестким стратегическим выбором: переплачивать за премиальные цены проприетарных экосистем или переносить рабочие нагрузки на оптимизированные локальные стеки, построенные на открытых архитектурах.

Опенсорс ИИСнижение затратИнференс моделейКорпоративные APIЭкономика ИИ