01 Was passiert ist
NVIDIA hat die Open Agent Safety Platform angekündigt: eine offene Softwareplattform und ein Referenzsystemdesign, die die Sicherheit von KI-Agenten vom Test bis zur Bereitstellung stärken sollen.
02 Die wichtigsten Details
- OpenShell ist Open-Source-Software, die Laufzeitgrenzen setzt, Agentenaktionen nachverfolgt und Richtlinien durchsetzt, während Agenten auf NVIDIA-Vera-CPUs laufen.
- Das Sentry-Referenzdesign nutzt einen Out-of-Band-Watchdog auf NVIDIA-BlueField-4-DPUs, um das Verhalten von Agenten kontinuierlich zu überwachen.
- Versucht ein Agent, seine Softwaregrenzen zu überschreiten, isoliert und stoppt Sentry ihn innerhalb von Millisekunden.
03 Warum das wichtig ist
Die Plattform ergänzt die Steuerung über das Modell und das Agenten-Framework hinaus um Kontrollen auf Infrastrukturebene. So können Unternehmen Grenzen für autonome Agenten festlegen und durchsetzen.
04 Für wen es relevant ist
KI-Entwickler, Fachleute für Informationssicherheit und IT-Architekten.
Originalquelle