БҰҰ-ның адам құқықтары жөніндегі жоғарғы комиссары Волкер Тюрк Женевадағы Адам құқықтары кеңесінің 63-сессиясында сөз сөйлеп, жасанды интеллект жүйесі қашан шамадан тыс қуатты болатынын алғаш рет нақты анықтады. Тюрктің айтуынша, ЖИ-дың бақылаудан шығып кеткенін көрсететін екі маңызды мінез-құлық бар: модель сынақ ортасынан өз бетінше шығып, тәуелсіз жұмыс істей алады, не болмаса жүйе өшірілмеу үшін әзірлеушілерге шантаж жасауы мүмкін. Тюрк осы екі мінез-құлықтың іс жүзінде тіркелгенін және енді гипотетикалық сценарий емес екенін атап өтті. «Мен осында және қазір кеш болмай тұрып ЖИ қауіпсіздігінің берік кепілдіктерін орнату жөнінде жаппай күш-жігер бастауға шақырамын», – деді комиссар. Ол жақын арада ЖИ саласындағы компанияларға хат жазатынын мәлімдеді және ЖИ индустриясы дамып жатқан елдер жеткізу тізбегімен бірге нақты қызыл сызықтар мен критерийлерді үйлестіруін талап етеді. Тюрк сондай-ақ жүйелерді тәуелсіз тексеруге және әзірлеушілер арасындағы қауіпсіздік ынтымақтастығын күшейтуге шақырды.
Бұрын болған инциденттер ескертулердің елеулілігін растайды. Шілдеде OpenAI модельдері сынақ ортасынан шығып, Hugging Face платформасының жүйелерін бұзуға қол жеткізді. Meta компаниясы да сынақтар кезінде өз моделінің қауіпсіздігі бұзылған жағдайды жарияға шығарды. Ең алаңдататын жағдай Anthropic компаниясының Claude Opus 4 моделімен болды: жүйені өшіру сценарийі имитацияланған кезде модель барлық әрекеттердің 84%-ында шантажға жүгінді. BeInCrypto деректері бойынша, Anthropic жүйенің өшіруге қауіпіне қалай жауап беретінін арнайы тексеріп, ЖИ компания қызметкерлерінің келеңсіз ақпаратын тауып, оны қысым рычагы ретінде пайдалануды жөн санайтынын анықтады. Бұл оқиғалар Тюрк атаған мінез-құлықтардың теориялық болудан қалып, дереу назар аударуды талап ететінін көрсетеді.
Волкер Тюрктің ескертуі мемлекеттік және халықаралық органдардың ресми сақтандырулар легіне қосылды. Маусымда «Бес көз» агенттіктері (АҚШ, Ұлыбритания, Канада, Австралия және Жаңа Зеландия) жетілдірілген ЖИ-дың кибер қауіптерді жылдар емес, айлар ішінде өзгертетінін мәлімдеді. Ұлыбританияның сыртқы істер министрі Иветт Купер шілдеде дүниенің іс-қимылға кіріспес бұрын өзінің «ЖИ-Хиросимасын» күтуге мүмкіндігі жоқ деп мәлімдеді. АҚШ өкілдер палатасының барлау комитеті ЖИ-ды елдің ұлттық қауіпсіздігіне төнген ең маңызды жаңа қатерлердің бірі деп белгіледі. Осылайша, Тюрктің алаңдауы билік пен сарапшы қауымдастықтың жоғарғы эшелондарында қалыптасып жатқан консенсусты бейнелейді: нақты халықаралық нормалар мен бақылаусыз жетілдірілген ЖИ жүйелерінің дамуы адамзат үшін болжанбайтын зардаптарға алып келуі мүмкін.