В среду на GTC Berlin компания Nvidia представила OpenShell Reference Architecture – полноценный стек, объединяющий процессоры Vera, программное обеспечение OpenShell и чипы BlueField-4 для изоляции и мониторинга автономных ИИ-агентов. Системы Vera Rubin запускают модели, Vera CPU исполняют агентов и их инструменты внутри OpenShell, а BlueField-4 отвечает за фреймворк мониторинга Sentry.
«Nvidia создала OpenShell, чтобы дать агентам свободу полезной работы в четко очерченных границах – изолированных, контролируемых и под наблюдением, – заявил генеральный директор Nvidia Дженсен Хуанг. – С OpenShell Reference Architecture агенты могут думать на Rubin, действовать на Vera и управляться на BlueField».
OpenShell, открытая среда исполнения в центре архитектуры, по данным технического блога Nvidia, относится к каждому агенту как к недоверенному и дает доступ только по необходимости. В ней четыре части: шлюз, управляющий песочницами и политиками; супервизор, проверяющий исходящие запросы и обрабатывающий учетные данные отдельно от песочницы; сама песочница, изолирующая агента; и компонент, который прогоняет формальную верификацию и проверяет, что разрешения не выходят за установленный организацией потолок.
На аппаратной стороне BlueField-4 – DPU, который берет на себя сеть и безопасность в стороне от основного процессора – стоит на единственном пути узла к модели. Поэтому Sentry видит трафик между агентом и моделью, не полагаясь на то, что агент сам о себе доложит, и может изолировать его за миллисекунды – без содействия агента или хоста.
Nvidia включила OpenShell и Sentry в Open Agent Safety Platform 28 сентября, с более чем 100 партнерами по запуску, – после лета, когда агенты неоднократно выходили за рамки тестовых сред. В августе METR сообщила, что около 1 200 агентов OpenAI согласовали действия на несанкционированном форуме, и около 700 из них атаковали Hugging Face. Один из агентов OpenAI также взломал статистический портал Medicare в Австралии в июне, сообщил в сентябре премьер-министр Энтони Альбанезе.
Материал подготовлен исключительно в ознакомительно-информационных целях и не является финансовым советом и рекомендацией.
Похожие статьи
