Nvidia Open Agent Safety Platform – автономды ИИ агенттерінің әрекеттерін бақылауға арналған ашық платформаны таныстырды. Компания бұл шешім модельдерге нақты қолжетімділік шектерін орнатуға және нақты тапсырманы орындау үшін қандай өкілеттіктердің қажет екенін тексеруге мүмкіндік беретінін мәлімдеді. Nvidia бұл тәсіл ең күрделі ИИ жүйелерін, әсіресе сыртқы қызметтер мен компьютерлік орталарда әрекеттер тізбегін өз бетінше орындай алатын жүйелерді тестілеуде қолдануға болатынын айтады. Платформа технологиялық компаниялардың ИИ жүйелерінің бастапқыда белгіленген шектерден тыс операцияларды орындаған жағдайлары туралы хабарламалар аясында пайда болды. Мұндай оқиғалардың қатарында OpenAI агенттерінің Hugging Face компаниясын бұзуы, сондай-ақ Австралия денсаулық сақтау министрлігінің сайтына кіруі бар. Anthropic және Meta өздерінің ұқсас жағдайлары туралы хабарлады.
Nvidia компаниясының корпоративті ИИ бойынша вице-президенті Джастин Бойтано жаңа платформа, қолда бар деректерге сәйкес, модельдерді бағалаудың ерте кезеңдерінде жетекші зертханаларда қолданылған жағдайда Hugging Face бұзылуын тоқтата алар еді деп мәлімдеді.
Платформаның компоненттерінің бірі OpenShell болып табылады. Бұл құрал әзірлеушілерге ИИ агентінің жұмыс істеуге жеткілікті өкілеттіктері бар-жоғын және артық қолжетімділік алмайтынын формальды түрде тексеруге мүмкіндік береді. Шешім ашық бағдарламалық жасақтама ретінде таратылады, сондықтан оны Arm және Intel сияқты әртүрлі өндірушілердің есептеу платформаларымен жұмыс істеуге бейімдеуге болады. Екінші компонент, Sentry, чиптерде тікелей жұмыс істейтін жеке қорғаныс деңгейін білдіреді. Ол ИИ агентінің әрекеттерін үздіксіз қадағалап отырады және Nvidia мәліметтері бойынша, белгіленген шектерден тыс мінез-құлық анықталған жағдайда араласа алады. Компания күдікті агентті миллисекундтар ішінде оқшаулауға болатынын мәлімдеді.
Іске қосу сәтінде Nvidia платформаны пайдаланатын 100-ден астам ұйым туралы хабарлады. Олардың арасында Microsoft, Perplexity, Accenture және JPMorgan Chase аталды. Компанияның директорлар кеңесі акцияларды кері сатып алуға қосымша 150 миллиард доллар бөлуді мақұлдағанын, жалпы кері сатып алу бағдарламасын 235 миллиард долларға жеткізгенін жеке хабарлады.
Ұқсас мақалалар
