NVIDIA stellt Open Agent Safety Platform zur Absicherung von AI-Agenten vor
NVIDIA hat die Open Agent Safety Platform veröffentlicht, um die Sicherheit autonomer AI-Systeme durch hardwarenahe Überwachung und Governance zu erhöhen.
NVIDIA↗
SCHWERPUNKTE
Inferenz-Infrastruktur
KI-Nachrichten und praxisnahe Beiträge zu diesem Schwerpunkt.
Neueste Beiträge
11Google DeepMind erweitert Private AI Compute um persistenten Speicher
Google aktualisiert Private AI Compute durch einen verschlüsselten Speicher, bei dem kryptografische Schlüssel auf den Geräten der Nutzer verbleiben.
Google DeepMind↗
OpenAI optimiert Prompt-Caching für GPT-6
Das neue Caching-System für GPT-6 bietet bis zu 90% Rabatt auf Token und ermöglicht Anpassungen der Denkleistung ohne Cache-Verlust.
OpenAI↗
GPT-6 Sol und GPT-6 Luna ab sofort bei Amazon Bedrock verfügbar
AWS integriert GPT-6 Sol und GPT-6 Luna in Amazon Bedrock. Die Modelle bieten laut Anbieter niedrigere Kosten, Prompt-Caching und höhere Genauigkeit.
AWS↗
OpenAI erweitert GPT-6-Serie um Sol und Luna
OpenAI ergänzt die GPT-6-Reihe um die Modelle Sol und Luna, die durch niedrigere API-Preise und effizienteres Prompt-Caching hervorstechen.
OpenAI↗
Transformers unterstützt nun GGUF-Modelle für lokale Ausführung
Hugging Face ermöglicht die Nutzung von GGUF-Modellen direkt in Transformers, zunächst optimiert für Apple Silicon Hardware.
Hugging Face↗
AWS führt AgentCore-Runtime zur Stabilisierung von Startzeiten ein
AWS stellt die AgentCore-Laufzeitumgebung vor, die durch Snapshots und optimierte Speicherverwaltung die Performance von KI-Agenten berechenbarer macht.
AWS↗
Google Cloud führt Filestore Agent Volumes für KI-Workloads ein
Google Cloud stellt Filestore Agent Volumes vor, einen verwalteten Speicher für skalierbare KI-Agenten-Umgebungen in GKE.
Google Cloud↗
NVIDIA Vera Rubin NVL72 steigert KI-Effizienz und Durchsatz
NVIDIA präsentiert Testergebnisse für das System Vera Rubin NVL72, die eine höhere Durchsatzrate pro Megawatt bei KI-Workloads belegen.
NVIDIA↗
Salesforce und AWS erweitern KI- und Datenintegration für Unternehmen
Salesforce und AWS führen neue Funktionen für den Zugriff auf CRM-Daten, Slack-KI-Agenten und die Nutzung von Modellen via Amazon Bedrock ein.
Salesforce↗
NVIDIA PAIR ermöglicht verteiltes KI-Inferenz-Computing
NVIDIA Personal AI Router verteilt KI-Aufgaben über lokale Netzwerke, um Engpässe bei Multi-Agenten-Workflows effizient zu minimieren.
NVIDIA↗