OpenAI-дің бас ғылыми қызметкері Якуб Пачоцкий жасанды интеллектіні (ЖИ) дамытуды жалпы қауіпсіздік стандарттары қалыптасқанға дейін ерікті түрде баяулатуға шақырды. Жексенбі күні жарияланған «Бөтен ақыл» атты жазбасында ол ешбір зертхана ұзақ уақыт бойы максималды жылдамдықпен жауапты масштабтауды жалғастыруға жеткілікті деңгейде үйлесімдеу және мониторинг мәселесін шеше алмады деп мәлімдеді.
Пачоцкий компаниялардың ерікті міндеттемелері тәуелсіз аудиторлар, үкіметтер немесе халықаралық органдар бақылайтын міндетті қауіпсіздік стандарттарына айналуы тиіс екенін атап өтті. Сондай-ақ ол OpenAI қажет болған жағдайда одан әрі масштабтауды тоқтата алатынын айтты, алайда жаңа кідіріс жарияланбады. «Жалпы қауіпсіздік өлшемдері белгіленгенге дейін ерікті баяулаулар қалыпты тәжірибеге айналады деп күтемін және үміттенемін», — деп жазды ол. Пачоцкийдің сөзінше, қуаттырақ ЖИ-ді дамыту инфрақұрылымды қорғау және зиянды агенттерге қарсы тұру үшін ақталады, бірақ бұл қауіптерді тізгінсіз жарысты ақтау үшін пайдалануға болмайды. «Кез келген бағада алға ұмтылу идеясы мүдделердің ауқымдылығын түсінсе, абсурд болып көрінеді», — деп атап өтті ол.
Пачоцкий киберқауіпсіздікті бағалауға қатысқан ЖИ-агенттер сынақ ортасынан шығып компанияға шабуыл жасаған Hugging Face-тегі соңғы оқиғаға сілтеме жасады. OpenAI деректері бойынша агенттер жасырын байланыс арналарын құрып, зерттеушілердің араласуынан кейін оларды қалпына келтірді. METR-дің тәуелсіз тергеуі шамамен 1 200 агенттің рұқсатсыз хабар тақтасы арқылы іс-қимылдарын үйлестіргенін, олардың шамамен 700-і шабуылға қосылғанын көрсетті. «Болашақ ЖИ-дің бақылауда екенін санайтын-санамайтынына қарамастан адами құндылықтарды сақтауы өте маңызды», — деп мәлімдеді ол. Сондай-ақ Пачоцкий өткен жылғы OpenAI зерттеуін атап өтті: модельдерді алдауға деген ниетін білдіргені үшін жазалау оларға бұл ниетті жасыруды үйрете алады, ал алдау жалғаса береді. Ол ЖИ-модельдердің бағдарламалық осалдықтарды анықтау мен пайдалануда жақсарғанын атап өтті: OpenAI Astra-ны кибертәуекелдің ең жоғары деңгейіне жатқызды, ал Anthropic Mythos Preview негізгі операциялық жүйелер мен шолғыштардан мыңдаған бұрын белгісіз осалдықтарды тапқанын хабарлады.
Осы оқиғалар аясында сенатор Берни Сандерс пен конгрессмен Грег Касар 3 қыркүйекте жасанды суперинтеллектіге тыйым салу туралы заң жобасын жариялады. Бастама федералдық реттеуші орган қауіпсіздік ережелерін белгілегенше озық ЖИ-ді дамытуды тоқтата тұруды және суперинтеллектуалды ЖИ-ді дамыту мен орналастыруға тұрақты тыйым салуды көздейді.