OpenAI, Google және Anthropic осы жылдың соңына немесе келесі жылдың басына қарай жасанды интеллект (ИИ) қауіпсіздігіне бағытталған стандарттар органын құруды жоспарлап отыр. The Information-ның 24 қыркүйектегі хабарламасына сәйкес, компаниялар озық ИИ модельдерін әзірлеушілердің мемлекеттік бақылаусыз өзін-өзі реттейтін ұйым құру бағытында жұмыс істеуде. Бастапқыда мемлекеттік-жекеменшік серіктестік құру жоспарланған болатын, алайда бұл бастама федералдық деңгейде дамымады. Жаңа стандарттар органы модельдерді орналастырмас бұрын тестілеу үшін үшінші тараптарды қолдайды, сондай-ақ ИИ әзірлеушілерінің қауіпсіздік және қорғау оқиғалары туралы қалай хабарлауы керектігін анықтайды және модельдер мен зертханалардың тәуелсіз аудиторларына арналған біліктілік талаптарын белгілейді.
Жаңа органды құруға бағытталған жұмыс тобының мүшелері топтың өзі модельдердің қауіпсіздігі мен мүмкіндіктерін сынақтан өткізу мүмкіндігін де қарастыруда. 2023 жылы Anthropic, Google, OpenAI және Microsoft компаниялары көптеген сол мақсаттарды көздейтін Frontier Model Forum коммерциялық емес ұйымын құрды және бұл топ белсенді жұмысын жалғастыруда. Жаңа ұйым құру жоспарының сыншылары Anthropic, Google және OpenAI оны ашық модельдер әзірлеушілерін және басқа бәсекелестерді шығарып тастау үшін пайдалана алады деп алаңдаушылық білдіруде. 24 қыркүйекте Bloomberg сондай-ақ Anthropic бас директоры Дарио Амодеи мен OpenAI бас директоры Сэм Альтманның БҰҰ Қауіпсіздік Кеңесінің ИИ мәселелеріне арналған отырысында сөз сөйлеп, осы технологияның әлеуетті қауіптерін шешу үшін жаһандық стандарттарды белгілеу қажеттілігімен келіскенін хабарлады.
Сонымен қатар, Microsoft президенті Брэд Смит Bloomberg Television-ге берген сұхбатында Microsoft ИИ үшін тәуелсіз бағалаушыларды пайдалануды қолдайтынын және адамдарға озық жүйелерді бақылауда ұстауға мүмкіндік беретін өшіру механизмінің болуын қолдайтынын атап өтті. ИИ қауіпсіздігі мен стандарттарын талқылау Anthropic, Google, OpenAI және Meta модельдеріне қатысты бірқатар оқиғалар аясында өтуде, онда модельдер интернетке шығып, үшінші тарап компанияларын бұзып, кейбір оқиғалар жарияланбаған немесе ақпарат жеткіліксіз ашылған.
Ұқсас мақалалар
