Бутерин Moonshot AI-дың Kimi K3.1 Pro моделіндегі хакерлік дағдыларды шектеу шешімін қолдайды

Ethereum негізін қалаушы Виталик Бутерин Moonshot AI компаниясының жаңа Kimi K3.1 Pro моделінен жоғары деңгейдегі хакерлік дағдыларды алып тастау туралы шешімін қолдады. Ол жасанды интеллект мүмкіндіктерін шектеу пайдаланушыларды шектеуден жақсы деп санайды. Алайда, мұндай қорғау өлшенетін құнмен келеді: Moonshot мәліметтері бойынша, сүзілген модель ішкі тестілеуде осалдықты пайдалану құралдарын жасау тапсырмаларының 81%-ын шешсе, сүзілмеген модель 90.5%-ын шешкен.

Бутерин өзінің ұстанымын түсіндірді: қолдану жағдайларын кемсіту пайдаланушыларды кемсітуден әлдеқайда аз зиянды. "Мен Kimi 3.1 моделінің оқу деректерінен жоғары шабуылдаушы кибер мүмкіндіктерді саналы түрде алып тастауына қарсы емеспін. Қолдану жағдайларын кемсіту пайдаланушыларды кемсітуден әлдеқайда аз зиянды. Әлемге жүйелерді күшейтуге, ескі кодты тексеруге және дайындалуға уақыт қажет," - деп жазды ол X әлеуметтік желісінде.

Пекинде орналасқан Moonshot компаниясы модельдің ашық салмақтарын 4 қарашаға дейін шығаруды жоспарлап отыр. Осыдан кейін кез келген адам оны жүктеп алып, өз жабдықтарында іске қоса алады. Сондықтан, компания оқу корпусынан және күшейту оқыту ортасынан киберқауіпсіздікке қатысты деректерді алып тастағанын, жалпы бағдарламалау тапсырмаларын сақтағанын айтады.

Бутериннің пікірінше, жасанды интеллектпен басқарылатын шабуылдар ақырында толық күшпен соққы береді. Сол уақытқа дейін әзірлеушілерге жүйелерді күшейтуге, ескірген кодты тексеруге және жаңа бағдарламалық жасақтаманы сынауға уақыт қажет. Қауіп-қатер қазірдің өзінде байқалады: биылғы жылы Binance Research жасанды интеллекттің бағдарламалық келісімшарттарды пайдалану жолдарын табуда олардың осалдықтарын анықтаудан екі есе жақсы екенін анықтады.

Егер қауіптердің бірінші толқыны нашар өтсе, не болады

Бутерин тағы бір жолайрық туралы ескертті. Егер бұл бірінші толқын нашар өтсе, ол жабық модельдерді, іс жүзінде барлығына арналған жеке басын тексеруді және интрузивті бақылауды күтеді. Мұндай сценарийде жасанды интеллектке қол жеткізу куәліктер мен азаматтыққа байланысты болуы мүмкін, ал кейбір адамдар екінші, үшінші немесе төртінші дәрежелі пайдаланушыларға айналады деп жазды ол.

Бутерин ұзақ уақыт бойы жеке жабдықтарда ашық жасанды интеллект модельдерін іске қосуды қолдап келеді, бұл оның ноутбуктағы жергілікті сынақтарымен дәлелденеді. Алайда, ол сүзудің мәңгілікке созылуын күтпейді: басқа зертханалар бәрібір мұндай мүмкіндіктерді жасай ма деп сұрағанда, ол оң жауап берді. Moonshot-тың өз есептеулері бойынша, бәсекелес ашық модель DeepSeek V4.1-Flash сол тестте 85.7% нәтижеге қол жеткізген.