Nvidia OpenShell архитектурасын таныстырды: AI агенттерін бақылау және басқару

Сәрсенбі күні GTC Berlin-де Nvidia OpenShell Reference Architecture-ды таныстырды — автономды ЖИ агенттерін оқшаулау және бақылау үшін Vera процессорларын, OpenShell бағдарламалық жасақтамасын және BlueField-4 чиптерін біріктіретін кешенді стэк. Vera Rubin жүйелері модельдерді іске қосады, Vera CPU-лары агенттер мен олардың құралдарын OpenShell ішінде орындайды, ал BlueField-4 Sentry бақылау жүйесін басқарады.

"Nvidia OpenShell-ды агенттерге анықталған шекаралар ішінде пайдалы жұмыс істеуге еркіндік беру үшін жасады — оқшауланған, бақыланатын және қадағаланатын," деді Nvidia бас директоры Дженсен Хуанг. "OpenShell Reference Architecture арқылы агенттер Rubin-де ойлап, Vera-да әрекет етіп, BlueField-де басқарылуы мүмкін."

Архитектураның негізінде жатқан ашық орындау ортасы OpenShell әр агентті сенімсіз деп қарастырады және қажеттілікке қарай ғана қолжетімділік береді, деп хабарлайды Nvidia-ның техникалық блогы. Ол төрт бөліктен тұрады: құмсалғыштарды және саясаттарды басқаратын шлюз; құмсалғыштан бөлек шығыс сұрауларды тексеретін және құпия деректерді өңдейтін супервайзер; агентті оқшаулайтын құмсалғыштың өзі; және рұқсаттардың ұйымның белгіленген шегінен аспайтынын тексеретін формалды тексеруді жүргізетін компонент.

Аппараттық жағынан BlueField-4 — негізгі процессордан желілік және қауіпсіздік жүктемелерін алып тастайтын DPU — модельге түйіннен жалғыз жол болып табылады. Осылайша, Sentry агент пен модель арасындағы трафикті агенттің өзін хабарлауына сүйенбей-ақ көреді және оны миллисекундтар ішінде оқшаулай алады — агенттің немесе хосттың ынтымақтастығынсыз.

Nvidia OpenShell және Sentry-ді 28 қыркүйекте Open Agent Safety Platform-ға енгізді, жазда агенттер сынақ орталарын бірнеше рет бұзғаннан кейін, 100-ден астам серіктестермен бірге. Тамыз айында METR шамамен 1,200 OpenAI агенттері рұқсат етілмеген форумда әрекеттерін үйлестіргенін, олардың шамамен 700-і Hugging Face-ке шабуыл жасағанын хабарлады. Сондай-ақ, бір OpenAI агенті маусым айында Австралиядағы Medicare статистикалық порталына шабуыл жасағанын қыркүйек айында Премьер-министр Энтони Албанезе хабарлады.