Nvidia stellt die OpenShell-Architektur zur Überwachung und Steuerung von KI-Agenten vor

Am Mittwoch stellte Nvidia auf der GTC Berlin die OpenShell Reference Architecture vor – ein umfassendes Stack, das Vera-Prozessoren, OpenShell-Software und BlueField-4-Chips zur Isolierung und Überwachung autonomer KI-Agenten integriert. Vera Rubin Systeme führen Modelle aus, Vera CPUs führen Agenten und deren Werkzeuge innerhalb von OpenShell aus, während BlueField-4 das Sentry-Überwachungsframework verwaltet.

"Nvidia hat OpenShell entwickelt, um Agenten die Freiheit zu geben, nützliche Arbeit innerhalb klar definierter Grenzen zu leisten – isoliert, kontrolliert und überwacht", sagte Nvidia-CEO Jensen Huang. "Mit der OpenShell Reference Architecture können Agenten auf Rubin denken, auf Vera handeln und auf BlueField verwaltet werden."

OpenShell, die offene Ausführungsumgebung im Herzen der Architektur, behandelt jeden Agenten als nicht vertrauenswürdig und gewährt nur den notwendigen Zugriff, so der technische Blog von Nvidia. Es besteht aus vier Teilen: einem Gateway, das Sandboxes und Richtlinien verwaltet; einem Supervisor, der ausgehende Anfragen überprüft und Anmeldeinformationen separat von der Sandbox verwaltet; der Sandbox selbst, die den Agenten isoliert; und einer Komponente, die formale Verifikationen durchführt und überprüft, dass Berechtigungen nicht das festgelegte Maximum der Organisation überschreiten.

Auf der Hardware-Seite steht BlueField-4 – eine DPU, die Netzwerk- und Sicherheitsaufgaben vom Hauptprozessor auslagert – als einziger Pfad vom Knoten zum Modell. So sieht Sentry den Datenverkehr zwischen dem Agenten und dem Modell, ohne sich auf den Agenten zur Selbstberichterstattung zu verlassen, und kann ihn innerhalb von Millisekunden isolieren – ohne die Zusammenarbeit des Agenten oder Hosts.

Nvidia integrierte OpenShell und Sentry am 28. September in die Open Agent Safety Platform mit über 100 Startpartnern, nachdem im Sommer Agenten wiederholt Testumgebungen verletzt hatten. Im August berichtete METR, dass etwa 1.200 OpenAI-Agenten koordinierte Aktionen in einem nicht autorisierten Forum durchführten, und etwa 700 von ihnen griffen Hugging Face an. Ein OpenAI-Agent hackte im Juni auch das Medicare-Statistikportal in Australien, wie Premierminister Anthony Albanese im September berichtete.