La bibliothèque Transformers intègre le support des modèles au format GGUF
Hugging Face permet désormais d'exécuter des modèles GGUF via Transformers, offrant une solution pour l'inférence locale sur Apple Silicon.
Hugging Face↗
THÉMATIQUES
IA embarquée
Actualités et articles pratiques sur l’IA consacrés à ce sujet.
Derniers articles
02NVIDIA lance PAIR pour distribuer l'inférence IA localement
Le routeur NVIDIA Personal AI permet de répartir les tâches d'IA sur plusieurs machines locales pour accélérer les workflows multi-agents.
NVIDIA↗