01 Was passiert ist

NVIDIA hat die Open Agent Safety Platform angekündigt, ein Systemdesign, das die Sicherheit von AI-Agenten von der Testphase bis zur Bereitstellung gewährleisten soll. Die Plattform bietet Governance-Funktionen für die gesamte Software- und Hardwareumgebung, in der die Agenten operieren.

02 Die wichtigsten Details

  • Die OpenShell-Software ermöglicht eine sichere Laufzeitumgebung, die alle Aktionen der Agenten auf NVIDIA Vera CPUs nachverfolgt und Sicherheitsrichtlinien durchsetzt.
  • Das Referenzsystem Sentry nutzt NVIDIA BlueField-4 DPUs als externe Überwachungsinstanz, um das Verhalten der Agenten kontinuierlich zu kontrollieren.
  • Laut NVIDIA ist Sentry in der Lage, Agenten automatisch zu isolieren, sofern diese ihre definierten Sicherheitsgrenzen innerhalb von Millisekunden verletzen.

03 Warum das wichtig ist

Mit dieser Plattform können Unternehmen eine hardwaregestützte Sicherheitsüberwachung implementieren, die unabhängig von der Anwendungsebene funktioniert. Dies verhindert, dass sich autonome Agenten außerhalb der festgelegten Sicherheitsrichtlinien bewegen.

04 Für wen es relevant ist

KI-Entwickler, Cybersicherheitsspezialisten und IT-Architekten.

OriginalquelleNVIDIA