Платформа Hugging Face официально включила проект Public AI в список провайдеров бессерверного инференса. Согласно анонсу команды разработчиков (в состав которой вошли Джозеф Лоу, Джошуа Тан, Жюльен Шомон и другие), теперь пользователи Hugging Face Hub могут напрямую работать с суверенными моделями искусственного интеллекта от таких организаций, как Swiss AI Initiative и AI Singapore. Инструментарий Public AI Inference открывает доступ к глобальной сети распределенных вычислений на базе библиотеки vLLM и API, совместимых со стандартами OpenAI. Это формирует устойчивый уровень развертывания моделей на базе инфраструктуры, предоставленной международными партнерами.
Public AI — это некоммерческий проект с открытым исходным кодом. Система функционирует на мощностях графических процессоров (GPU), выделенных государственными и отраслевыми институтами при поддержке рекламных субсидий. Для технических специалистов это решение означает бесшовную интеграцию через пакеты разработки (SDK) на Python и JavaScript с использованием глобальной балансировки нагрузки, которая автоматически распределяет запросы между вычислительными кластерами. Управлять процессом можно непосредственно через интерфейс Hugging Face: пользователи могут настраивать собственные API-ключи провайдера для прямых вызовов или использовать маршрутизацию через аккаунт HF.
Данная интеграция значительно упрощает доступ к публичным и суверенным моделям, избавляя разработчиков от привязки к конкретной инфраструктуре. Public AI выступает в роли масштабируемого моста для внедрения открытых моделей в прикладные решения, обеспечивая прозрачную работу через распределенные вычислительные ресурсы разных стран.