В середине 2010-х годов создание стартапа на рынке баз данных со скромной долей в 2% практически гарантировало выход на IPO, закрепляя за базами данных статус бесспорного короля той программной эпохи. Эта иерархия сейчас безжалостно переписывается рабочими нагрузками по выполнению моделей. Как показывают данные индустрии, недавно компании потратили около $25 млрд на запуск ИИ-моделей, а в этом году рынок стремительно растет примерно до $130 млрд, вплотную приближаясь к прогнозу Gartner в $161 млрд для традиционных баз данных.
К 2027 году объем рынка ИИ-инференса, по прогнозам, достигнет примерно $350 млрд, почти в два раза опережая базы данных с их $190 млрд. Эта структурная трансформация фактически превращает каждое отдельное приложение в реселлера инференса, полностью перестраивая финансовую архитектуру корпоративного ПО.
Сжатие валовой маржи
Этот стремительный рост кардинально меняет экономику программных единиц, поскольку эксплуатационные расходы грозят затмить плату за платформу, а валовая маржа сокращается далеко ниже классических стандартов SaaS. Комфортная совокупная валовая маржа устаревшего ПО на уровне 72% сталкивается с постоянным падением, если приложение не разработает проприетарную обвязку для агрессивного сжатия накладных расходов на токены, или если жесткая конкуренция моделей не снизит затраты на инференс быстрее, чем ограниченные поставки оборудования толкают цены вверх.
"Валовая маржа сжимается ниже стандартов SaaS."
В то же время корпоративные клиенты, которые приносят свои собственные ключи (BYOK), предоставляя собственные кластеры GPU или учетные данные API моделей, вынуждают вендоров менять выручку верхней строки на защиту валовой маржи. В таких конфигурациях поставщики ПО фиксируют практически чистую программную маржу, однако они вынуждены делать это при значительно меньшей стоимости контракта. Инфраструктурные расходы превратились в доминирующий компонент общей себестоимости проданных товаров (COGS), регулярно поглощая более половины общей выручки.
Волатильные уровни токенов
Технические руководители не могут полагаться исключительно на стандартные дефляционные технологические кривые для защиты маржи на единицу продукции. В то время как скорректированная с учетом возможностей стоимость токенов падает примерно на 47% каждый квартал, прейскурантные цены на флагманские передовые решения продолжают расти по мере скачков возможностей. За 18-месячный период совокупная цена передовых решений выросла с $0.96 до $11.25, прежде чем новые релизы флагманов сбросили этот уровень.
Подобно тому как водители дальнемагистральных грузовиков следят за скачками цен на топливо и немедленно пересматривают экономику своих маршрутов, софтверные компании теперь следят за метриками цены за токен и ищут способы повышения эффективности своих систем с помощью меньших моделей, лучших обвязок и продвинутых методов маршрутизации. Традиционное ПО по лицензиям на рабочие места официально ушло в прошлое; на смену ему пришло ПО на основе вычислительного арбитража.