NVIDIA lance la plateforme Open Agent Safety pour sécuriser les agents AI
NVIDIA dévoile l'Open Agent Safety Platform, une solution matérielle et logicielle pour surveiller et contrôler les agents AI autonomes en temps réel.
NVIDIA↗
THÉMATIQUES
Infrastructure d’inférence
Actualités et articles pratiques sur l’IA consacrés à ce sujet.
Derniers articles
11Google DeepMind ajoute une mémoire persistante à Private AI Compute
Google met à jour Private AI Compute avec un stockage sécurisé utilisant des clés sur l'appareil pour préserver le contexte utilisateur.
Google DeepMind↗
OpenAI améliore la mise en cache des prompts pour GPT-6
Le nouveau système de cache pour GPT-6 permet des réductions de 90% sur les tokens et une gestion flexible de l'effort de raisonnement.
OpenAI↗
Lancement de GPT-6 Sol et GPT-6 Luna sur Amazon Bedrock
Amazon intègre GPT-6 Sol et GPT-6 Luna à Bedrock, proposant une tarification API réduite, le support du cache de prompt et une précision améliorée.
AWS↗
OpenAI lance les modèles GPT-6 Sol et GPT-6 Luna
OpenAI enrichit son écosystème GPT-6 avec les modèles Sol et Luna, combinant tarification API réduite et mise en cache optimisée.
OpenAI↗
La bibliothèque Transformers intègre le support des modèles au format GGUF
Hugging Face permet désormais d'exécuter des modèles GGUF via Transformers, offrant une solution pour l'inférence locale sur Apple Silicon.
Hugging Face↗
AWS lance le runtime AgentCore pour optimiser le déploiement des agents
AWS introduit AgentCore, un runtime utilisant des snapshots et une gestion mémoire dynamique pour stabiliser les temps de démarrage des agents IA.
AWS↗
Google Cloud lance Filestore Agent Volumes pour les agents IA
Google Cloud introduit Filestore Agent Volumes, un service de stockage géré pour les environnements dynamiques d'agents IA dans GKE.
Google Cloud↗
NVIDIA annonce des gains d'efficacité pour le système Vera Rubin NVL72
NVIDIA communique des résultats de performance soulignant une meilleure efficacité énergétique pour ses infrastructures de centres de données.
NVIDIA↗
Salesforce et AWS étendent l'intégration de l'IA et des données d'entreprise
Salesforce et AWS lancent de nouvelles fonctionnalités pour connecter les données CRM, les agents IA dans Slack et les modèles via Amazon Bedrock.
Salesforce↗
NVIDIA lance PAIR pour distribuer l'inférence IA localement
Le routeur NVIDIA Personal AI permet de répartir les tâches d'IA sur plusieurs machines locales pour accélérer les workflows multi-agents.
NVIDIA↗