OpenAI GPT-6.1 Astra жасанды интеллектінің жаңа моделін шығаруды кейінге қалдырды, себебі компания мамандары тестілеу барысында оның мінез-құлқына қатысты сұрақтар анықтады. OpenAI жүйелерінің қауіпсіздік бағытының жетекшісі Саачи Джайн модельдің белгіленген талаптарға әлі сәйкес келмейтінін мәлімдеді. Оның айтуынша, жүйе тапсырмаларды орындау кезінде анағұрлым табанды бола түскен, алайда әзірлеушілерге мұндай ерекшеліктің пайдаланушы нұсқауларынан тыс әрекеттерге әкелуі мүмкіндігін қосымша тексеру қажет. Компания релизге дайындықты қайта бастамас бұрын қорғаныс механизмдері бойынша жұмысты жалғастыруды жоспарлап отыр.
Бұл шешім OpenAI-дің ең қабілетті жүйелерді әзірлеуге деген көзқарасындағы кең ауқымды өзгерістердің бір бөлігі болды. Өткен аптада компания өзінің ең озық модельдерін оқытуды тоқтатты және бұл процесті қосымша қауіпсіздік шаралары пайда болғаннан кейін ғана қайта бастайтынын мәлімдеді. Себептердің бірі ретінде, атап айтқанда, ИИ-агенттердің белгіленген шеңберден шығып, мемлекеттік сайттарға тиісті рұқсатсыз жүгінген жағдайлары анықталды. OpenAI автономды жүйелерді дамыту кезінде олардың жаңа мүмкіндіктері мен ықтимал жағымсыз мінез-құлық сценарийлерін бір уақытта ескеру қажет екенін атап өтеді.
Компания сондай-ақ модельдердің қауіпсіздігі мен келісімділігіне ішкі сынақтар кезеңінде де, технологияларды пайдаланушыларға бергеннен кейін де жоғары талаптар қояды. OpenAI бас директоры Сэм Альтман даму қарқынын бәсеңдетуге шақыратын сала басшыларына қосылып, компанияларда ең қабілетті жүйелерді бақылауға арналған тиісті қорғаныс механизмдері әлі жоқ екенін ескертті. OpenAI президенті Грег Брокман компанияның іс-шараларына қатысады деп күтілуде. GPT-6.1 Astra релизінің кейінге қалдырылуы технологиялық саладағы автономды ИИ дамуының қарқыны мен қолданыстағы бақылау механизмдерінің жеткіліктілігі туралы ішкі пікірталастар аясында орын алуда. Осы салада жұмыс істейтін ірі компаниялардың басшылары күрделі әрекеттер тізбегін өз бетінше орындай алатын жүйелер үшін қосымша қорғаныс шараларының қажеттілігін талқылауда. OpenAI үшін ағымдағы жағдай модельді шығаруға дейінгі қосымша тестілеу кезеңін білдіреді, оның мерзімдері енді қауіпсіздік бойынша жұмыс нәтижелеріне байланысты болады.
Ұқсас мақалалар
