Certik есебі: ИИ-агенттер адам бақылауымен жұмыс істеуі тиіс

Certik компаниясының жаңа есебінде жасанды интеллект агенттерін жұмыс күші мүшелері ретінде қарастыру ұсынылады: олар пассивті ескертулерден автономды әрекеттерге дейін дамыды. Мұндай жүйелер көпқадамды ойлау жүргізеді, сыртқы API-лерді біріктіреді және адам араласуынсыз түзету әрекеттерін орындайды. Есепке сәйкес, ұйымдар агенттік ИИ-ді жұмыс күшінің автономды қатысушысы ретінде басқаруы керек: нақты рөлдер, шектелген өкілеттіктер және қатаң адам-супервизор жауапкершілігін тағайындау қажет. Менеджерлер 100% заңды және операциялық жауапкершілікті сақтай отырып, агенттер шектелген өкілеттіктер аясында, эскалация протоколдарымен және тағайындалған қадағалаумен жұмыс істеуі керек. Бұл өзгеріс машиналық жылдамдықтағы шабуылдар, киберқауіпсіздік кадрларының тапшылығы және 2025 жылдың бірінші жартысында $900 млн-нан асқан ақшаны жылыстатуға қатысты айыппұлдар аясында қажет.

Certik компаниясының аға блокчейн зерттеушісі Натали Ньюсон қорғаушылар үнемі артта қалмайды деп санайды. Ол ИИ шабуылдаушыларды күшейтетінін мойындайды, бірақ қорғаушылардың артықшылығын атап өтеді: өз алаңының артықшылығы. «Біз кодты релизге дейін көреміз, протоколдың қалыпты мінез-құлқы қалай көрінетінін білеміз және сол ИИ-эксплойттарды өз жүйелерімізге қарсы бірінші болып іске қоса аламыз. Web3-те шабуылдаушының барлық әрекеттері ашық тізілімде, сондықтан оның барлау, қаржыландыру және тестілік транзакциялары із қалдырады, оны машиналар жақсы оқиды», - деді Ньюсон. Ол мерзімді қорғау үздіксіз шабуылға төтеп бере алмайтынын ескертеді: қауіпсіздік динамикалық болуы керек.

Шабуылдаушылар реттеуші кедергілердің жоқтығынан пайда көреді, бірақ Ньюсонның айтуынша, жылдамдық табысты кепілдендірмейді: «Шабуылдаушы машиналық жылдамдықпен қозғала алады, бірақ ол төлем алу үшін тізбекті өтуі керек, және дәл сол жерде мониторинг пен автоматты өшіргіштер орналасқан». Күтілетін транзакцияларды нақты уақыт режимінде бақылау автоматты жүйелерге эксплойттарды анықтауға және келісімшарттарды дереу тоқтатуға мүмкіндік береді. Аудиттер мен формальды верификациямен үйлескенде бұл қауіп-қатер экономикасын өзгертеді, шабуылдаушыларды адамдардан гөрі машиналарды басып озуға мәжбүр етеді. Есепте агенттің орындауын және адам қадағалауын нақты ажырату және ИИ ойлау логтарының ішкі аудитін міндетті тәртіпке айналдыру ұсынылады.