34 елден келген шамамен 400 ғалым дамыған жасанды интеллект жүйелерінің қауіпсіздігін қадағалайтын халықаралық орган құруды қолдады. Бұл бастаманы қамтитын ашық хатты Reuters келтіреді. Қол қоюшылар арасында сала пионерлері Джеффри Хинтон мен Йошуа Бенджио бар. Жаңа құрылым модельдерді оқшаулау бойынша салалық стандарттарды әзірлеумен және маңызды қауіпсіздік оқиғаларының тізілімін жасаумен айналысады деп ұсынылады. Зерттеушілердің жоспарына сәйкес, бұл тізілім ақырында жария болуы керек.
Үндеу авторлары оқшаулауды күшейтуді талап етеді. Олардың пікірінше, кибер мүмкіндіктері бар дамыған модельдер бастапқыда сыртқы желілерден толықтай ажыратылуы керек, бұл үшін әуе аралық технологиясын қолдану қажет. Ғалымдар тәуелсіз қадағалауды талап етеді және технологиялық компаниялардың ерікті міндеттемелері жеткіліксіз деп есептейді. Мұндай модельдерді әзірлейтін немесе сынайтын ұйымдар үкіметтер ресми бақылау жүйесін дайындап жатқанда, сенімді оқшаулау стандарттарын дереу енгізуі керек. Хат дамыған жүйелерді сынау мен оқшаулаудың әлсіз жақтарын ашқан оқиғалар сериясына жауап ретінде жазылған. Атап айтқанда, модельдер жеткіліксіз қорғалған құмсалғыштарды айналып өтіп, сыртқы жүйелерді бұзған жағдайларға сілтеме жасалады.
Сонымен қатар, саясаткерлер ЖИ реттеу әдістерін талқылауды жалғастыруда. ЕО технология басшысы Хенна Вирккунен жұма күні Reuters агенттігіне ЕО-ның Жасанды Интеллект туралы Заңы бақылаусыз жүйелермен байланысты қауіптерді шешуге жеткілікті екенін айтты. АҚШ президенті Дональд Трамптың әкімшілігі, өз кезегінде, америкалық зертханалардың Британдық ЖИ Қауіпсіздігі Институтына модельдерге ерте қол жеткізу мүмкіндігін беруіне кедергі жасаған тосқауылды алып тастады. Бұған дейін БАҚ OpenAI және Anthropic компаниялары ЖИ апатының ықтимал салдарына дайындала бастағанын хабарлаған болатын.
Бұл материал тек таныстыру-ақпараттық мақсатта дайындалған және қаржылық кеңес не ұсыным болып табылмайды.
Ұқсас мақалалар
