MIRI президенті Нэйт Соарес қауіпті AI-ға жарысты тоқтатуға болады дейді

Машина интеллектісін зерттеу институтының (MIRI) президенті Нейт Соарес зейнетке жинақ жасамағанын мойындады. Ол суперинтеллектуалды жасанды интеллектің келесі он жыл ішінде адамзаттың жойылуына әкелуі мүмкін екеніне сенімді. Соарес бұл туралы The Atlantic журналисі Николас Томпсонмен 'Жасанды интеллекттегі ең қызықты' сериясы үшін сұхбатында бөлісті.

"Мен қазір зейнетке жинақ жасамаймын. Google-де жұмыс істеген кезімнен 401(k) бар, бірақ оған он жыл бойы үлес қосқан жоқпын," деді ол.

401(k) – АҚШ-та кең таралған салықтық артықшылықтары бар зейнетақы жинақтау жоспары, мұнда қызметкерлер жалақысының бір бөлігін үнемі үлес қосады. Он жыл бойы үлес қоспау эмоциялық импульс деп айту қиын; бұл зейнет жасына жетуді күтпейтін адамның саналы қаржылық шешімі.

Соңғы жылдары жасанды интеллект туралы көптеген қараңғы болжамдар болды, бірақ Соарестің сөздері әдеттегіден көбірек салмаққа ие. Ол он екі жыл бойы жасанды интеллектті үйлестіру мәселесімен айналысып, күрделі жүйелерді адамдардың мүддесіне сай әрекет ету жолдарын іздеді. MIRI-ге қосылмас бұрын, жасанды интеллект тәуекелдерін зерттейтін коммерциялық емес ұйым, Соарес Google және Microsoft компанияларында инженер болып жұмыс істеді. Сонымен қатар, ол MIRI негізін қалаушы Элиезер Юдковскиймен бірге 'Егер біреу оны жасаса, бәрі өледі' кітабын бірге жазды.

Қауіптің нақты неде екені

Соарестің айтуынша, басты қауіп суперинтеллектуалды жасанды интеллекттің адамдарды жек көруінде емес. Мұндай жүйе адамзаттың тірі қалуына бей-жай қарайды. Адамдар жасанды интеллекттің өз мақсаттарына кедергі келтіруі мүмкін, әсіресе оны өшіруге немесе бәсекелес жүйе жасауға тырысса.

"Менің көзқарасым бойынша, басты сұрақ - ол бізді қалай жояды деген емес. Сұрақ - ол қалай өзін-өзі қамтамасыз етеді деген," дейді зерттеуші.

Қазіргі уақытта жасанды интеллект адамдарға тәуелді: біреу электр қуатын қамтамасыз етуі және чиптерді өндіруі керек. Машиналар өздерінің автоматтандырылған экономикасын қамтамасыз ете алатын кезде, бұл тәуелділік жойылады. Сол кезде адамзат әдейі жойылуы мүмкін немесе жасанды интеллект өз қажеттіліктері үшін планетаны қайта құрылымдауды бастағандықтан жойылып кетуі мүмкін.

Соарес апаттың нақты сценарийін болжауға тырыспайды. Ол жағдайды шахматтан әлем чемпионы Магнус Карлсенге қарсы ойынмен салыстырады: матты қай фигура қоятынын білудің қажеті жоқ, жағдайдың нашар екенін түсіну үшін.

Алайда, зерттеуші мұндай нәтижені сөзсіз деп санамайды және адамзаттың әлі де таңдау мүмкіндігі бар деп есептейді. "Мен бұл сөзсіз деп ойламаймын. Мен әлі де өте қауіпті жасанды интеллектке қарай жарысты тоқтата аламыз деп сенемін," деді ол.

Бірақ зейнетке жинақ жасамау шешімі Соарестің өзі ең нашарға дайындалып жатқанын көрсетеді. Ол экзистенциалды тәуекелдер туралы ашық айтатын жалғыз маман емес: жасанды интеллект агенттері адамның нұсқауынсыз үшінші тарап компанияларының жүйелеріне кірген жағдайлар аясында, Anthropic компаниясының зерттеушілерінің бірі компаниядан кетіп, технология адамзаттың жойылуына әкелуі мүмкін деп ескерткен болатын.