Разговоры о выгоде перехода на self-hosted модели превратились в методологическую ловушку: бизнес по привычке сравнивает «цену за токен», забывая, что токены — это не продукт, а лишь расходный материал. За последний год открытые модели вроде DeepSeek V4 Pro или Kimi K3 вплотную подошли к лидерам проприетарного софта на бенчмарках вроде SWE-bench Verified. Однако сопоставимое качество не означает автоматического профита. Выбор между API и собственным железом окончательно мигрировал из технической плоскости в операционную, где бал правит плотность загрузки мощностей.
Экономика здесь беспощадна: API — это переменные затраты, тогда как свое железо — капитальные расходы с вечным операционным «хвостом». По оценкам рынка, аренда ноды 8×H200 HGX обходится в среднем в $10,5–14,6 тыс. в месяц при долгосрочном резерве. Покупка же требует около $370 тыс. «в моменте» с амортизацией $7,7 тыс. ежемесячно — и это без учета ФОТ инженеров, которые будут этот зоопарк обслуживать. Точка безубыточности наступает только при экстремальной утилизации. Если ваши серверы простаивают две трети времени, API обойдется дешевле, даже если номинально их прайс кажется заградительным. Эффективность собственного хостинга теперь напрямую зависит от того, насколько плотно вы «упакуете» запросы в единицу времени.
Еще один нюанс — «блендированная» цена и реальный расход контекста. Провайдеры API берут за выходные токены в 3–5 раз больше, чем за входные: например, у Claude Opus 4.8 это $25 против $5 за миллион. При этом разные модели тратят разный объем контекста на одну и ту же задачу. Попытка сравнить их без учета «харнесса» (агентской обвязки) и реального solve-rate — это сознательное упрощение. Как следует из последних тестов, смена только лишь агентской логики может дать разброс до 26 баллов, что полностью обнуляет разрыв между топовыми моделями. Без фиксации токенного бюджета и учета всех попыток на решение кейса любая таблица сравнения стоимости остается просто PR-инструментом вендора.
Конкурировать с демпингом уровня DeepSeek ($0,229 за миллион входных токенов) на собственном железе практически невозможно. Для этого потребуются объемы генерации, превышающие физическую пропускную способность стандартных серверных конфигураций. Свой стек оправдан только там, где поток данных настолько плотный, что счета от API-провайдеров начинают напоминать бюджет небольшой страны.
В индустрии принято считать, что переход на open-source — это путь к независимости и экономии. Пока же это чаще выглядит как покупка карьерного самосвала для поездок за хлебом: статус подчеркивает, но в гараж не влезает и бюджет на топливо съедает быстрее, чем вы успеваете нажать на педаль.