Билл Гейтс: Жасанды интеллекттің негізгі қауіпі – қорғаусыз зиянкестер

Билл Гейтс жасанды интеллекттің (ЖИ) нақты қаупі қазіргі уақытта оны сақтық шараларынсыз қолданатын зиянды әрекеттерден туындайтынын айтты. ЖИ-дің адам бақылауынан шығу қаупі, оның айтуынша, бірнеше жылдан кейін пайда болады. Microsoft негізін қалаушы бұл туралы CNN-нің State of the Union бағдарламасында Джейк Таппермен сұхбатында айтты. Ол сондай-ақ, кибершабуылдар келесі жылы мұндай теріс пайдаланудың ең көрнекті көрінісі болуы мүмкін екенін атап өтті.

Гейтстің ескертуінің ортасында тұрған сақтық шаралары

Таппер ЖИ-ді пайдаланып биотерроризмнің алдын алу үшін көшбасшылар жеткілікті әрекет жасап жатыр ма деп сұрады. Гейтс жеткілікті әрекет жасалмай жатқанын айтты. Оның айтуынша, әзірлеушілер кибершабуылдар мен биотерроризмді сақтық шараларымен тоқтатуға тырысуда, бірақ қазіргі уақытта олардың барлығы оңай жойылады.

«Қазіргі уақытта нақты қауіп ЖИ-дің бақылаудан шығуында емес», - деді Гейтс.

Ол зиянды әрекеттердің, сақтық шараларының жоқтығы және соңғы модельдердің үйлесімін атап өтті. Гейтс белгілі бір бизнес-модельді екі формада көрсетеді. Бірі - төлем талап етілетін қауіп. Екіншісі - қор нарығын қозғайтын немесе мөлшерлемелерге әсер ететін бұзылу жасау.

«Зиянды адамдар, сақтық шаралары жоқ және соңғы модельдер болған кезде, әсіресе кибер саласында, біз көптеген жағымсыз тосынсыйларға тап боламыз», - деп қосты ол.

Технология индустриясы ұқсас дабылдарды көтерді

Технологиялық компаниялар одан да қысқа мерзімдерді атап өтуде. Тамыз айында OpenAI киберқауіпсіздік туралы ашық хат жариялады, оған 100-ден астам ұйым қол қойды. «Алдағы айларда ЖИ-мен басқарылатын кибершабуылдар әлдеқайда жиі және күрделі бола түседі...» делінген хатта.

Соңғы зерттеулер әлсіз қорғаныс механизмдері зиянды әрекеттердің мінез-құлқын қалыптастырып жатқанын көрсетеді. Тайвандық TeamT5 компаниясы Қытай мемлекетімен байланысты топтар рутинді жұмыстарды ЖИ-ге тапсырғаннан кейін шабуыл көлемін екі есе арттырғанын анықтады.

Chainalysis блокчейндердегі ұқсас өсуді қадағалады. Блокчейнде тіркелген зиянды бағдарламалар нұсқаулары 2025 жылдың ортасында зиянды код үшін шектеусіз қытайлық модельдер пайда болғаннан кейін 440% өсті.

Пайда табу мотивтері де соңғы жағдайларда айқын көрінеді. CrowdStrike бірнеше оңтүстіккореялық банктердің бұзылуын ЖИ құралдарын пайдаланатын қаржылық мақсаттағы ықтимал актормен байланыстырды.