Британдық Darktrace Holdings Ltd. компаниясы SECURE AI өнімін қолжетімді етті, корпоративтік ИИ құралдары мен агенттерін пайдалану үшін мінез-құлықты анықтау енгізілді. Darktrace-тың шамамен 8 200 орналастыруының телеметриясы көрсеткендей: бақылаудағы клиенттік есептік жазбалардың 80%-дан астамы тамыз айында генеративті ИИ-ны пайдаланды, ал орташа ұйым айына бес ИИ жеткізушісімен өзара әрекеттесті.
Компания үш мысал келтірді. Бір ұйым бір ИИ-ассистентін мақұлдады, бірақ қызметкерлердің көпшілігі рұқсат етілмеген қызметтерді пайдаланды. Екіншісінде мақұлдау процедурасы жоқ 90-ға жуық ИИ-агенттері әзірлеу ортасында құрылды. Үшіншісінде мердігерлердің бақылаусыз ИИ пайдалануы заңды тексеруге әкелді.
SECURE AI Darktrace-тың басқа өнімдерімен бірдей мінез-құлықты талдау әдісін қолданады. Қол жетімді нұсқасында Amazon Web Services, Anthropic, Microsoft және OpenAI-мен интеграция жүзеге асырылды. ChatGPT Enterprise, Claude, Microsoft Copilot және Amazon Bedrock сеанстары нақты уақытта бұзылу, деректердің ағып кетуі және жанама нұсқаулардың инъекциясы үшін сканерленеді. Әр сеанстың қауіп деңгейі бағаланады.
Көлеңкелі ИИ-ны анықтау Microsoft Entra Global Secure Access-пен интеграцияға негізделеді. Әкімшілер рұқсат етілмеген қызметтерді блоктай алады немесе құрылғыны карантинге орналастыра алады, сондай-ақ сәйкестік тексеру үшін өздерінің ИИ саясаттарын жүктей алады. Қамту әзірлеу орталарын – Amazon Bedrock және Microsoft Copilot Studio-ны қамтиды.
«Жасанды интеллект бұл модельді бұзады», – деді Darktrace президенті және CEO-сы Эд Дженнингс, бұрынғы қауіптерді каталогтау тәсілі туралы. Оның пікірінше, маңызды сигнал – бір нәрсе «ұйым үшін қалыптыдан өзгеше түрде әрекет ете бастағанда» пайда болады.
Ұқсас мақалалар
