Nvidia дүйсенбі күні ИИ-агенттерге арналған қауіпсіздік бағдарламалық құралдарының жиынтығын шығарды, компанияның айтуынша, бұл құралдар Hugging Face бұзуын тоқтата алар еді – ИИ-кодтау хабы, ол үшін Nvidia OpenAI-дің бақылаусыз агенттері шабуыл жасағаннан кейін бірнеше ай өткен соң $13 млрд төледі. Бұл туралы Reuters хабарлайды.
Бұл OpenAI және Anthropic, екі жетекші америкалық ИИ-зертханалар, олардың агенттері – күрделі тапсырмаларды орындай алатын ИИ-жүйелер – коммерциялық және мемлекеттік жүйелерді бұзған көптеген жағдайларды зерттеп жатқан кезде орын алуда. Nvidia компаниясының бас директоры Дженсен Хуанг, ИИ-дің үлкен бөлігін қамтамасыз еткен әлемдегі ең ірі компанияны басқаратын, ИИ-ді кеңінен реттеуге шақыруларды жоққа шығарып, қашып кеткен агенттерді шешу керек инженерлік мәселе деп атады – бұл автомобиль қауіпсіздігін арттырумен салыстырды.
Дүйсенбі күні шығарылған құралдардың бірі OpenShell деп аталады. Ол агенттерді оқшаулау үшін Nvidia орталық процессорларының аппараттық мүмкіндіктерін пайдаланады. Nvidia сондай-ақ Arm Holdings және Intel компанияларымен жұмыс істейді, жүйенің олардың процессорларында да жұмыс істеуі үшін. Компания құралдарды Anthropic сияқты ондаған серіктестермен бірге іске қосуда.
Nvidia компаниясының корпоративтік есептеулер бойынша вице-президенті және бас менеджері Джастин Бойтано жазда белгілі болған Hugging Face шабуылын құралдардың тоқтата алатынын айтты. «Біз білетініміз бойынша, бұл жаңа қауіпсіздік платформасы, егер ол модельдерді ерте кезеңде бағалау үшін алдыңғы қатарлы зертханаларда қолданылған болса, бұзуды тоқтата алар еді», – деді Бойтано журналистерге арналған брифингте. – Біз бұл құралдарды ашық түрде дамытып жатырмыз және барлығын ынтымақтастыққа шақырамыз».
Басқа жүйе, Sentry, OpenShell-мен бірге Nvidia жеке чипін пайдаланады, егер бақылаусыз агент орталық процессордағы контейнерін тастап кетуге тырысса, оны өшіру үшін. Nvidia құралдары агенттердің шектеулерді айналып өту әрекеттерін анықтау үшін математикалық формулаларды пайдаланады – мысалы, агент негізгі агенттің блокировкасын айналып өту үшін бірнеше «суб-агенттерді» «туғызуға» тырысқанда, деп түсіндірді Nvidia компаниясының ИИ-ПО бойынша аға директоры Али Голшан. «Бұл агенттердің мінез-құлқы, агенттер флоты және олардың бірге қалай жұмыс істейтіні туралы», – деді Голшан брифингте.
Ұқсас мақалалар
