Hugging Face объявляет об объединении с командой GGML, создателями Llama.cpp. Цель — обеспечить долгосрочный прогресс в области локального искусственного интеллекта (Local AI). Георгий Герганов и его команда присоединяются к Hugging Face для масштабирования и поддержки сообщества, стоящего за ggml и llama.cpp. Llama.cpp является фундаментальным строительным блоком для локального инференса, а Transformers — для определения моделей. Hugging Face предоставляет проекту долгосрочные ресурсы, гарантируя его развитие и открытость. Проект останется на 100% open-source и будет управляться сообществом. В будущем планируется сделать процесс интеграции новых моделей в llama.cpp максимально простым, вплоть до «однокликового» решения.
Это объединение позволит бизнесу стандартизировать подходы к локальному инференсу, снизить порог входа для компаний, желающих контролировать свою AI-инфраструктуру, и обеспечить предсказуемость расходов по сравнению с облачными сервисами. Усиление Hugging Face за счет интеграции llama.cpp является ставкой на децентрализацию AI, снижение зависимости от крупных облачных игроков, повышение конфиденциальности данных и оптимизацию расходов.