OpenAI, Google, Meta және тағы үш технологиялық компания сейсенбі күні өздерінің ИИ қауіпсіздік шараларын тексеру үшін сыртқы аудиторларды тартуға келісіп, АҚШ әкімшілігімен айыппұлдарсыз ерікті келісімге қол қойды. 29 қыркүйектегі құжатқа сондай-ақ Anthropic, Nvidia және қазір SpaceX құрамына кіретін xAI қол қойды.
Келісімде мәжбүрлеу механизмі жоқ, аудиторларды жариялауды немесе атауды талап етпейді және шараларды енгізу мерзімдерін белгілемейді. Компаниялар тексерушілерді өздері таңдап, кемшіліктерді өз бетімен жояды. AP деректеріне сәйкес, кейбір қадамдар компаниялар тарапынан белгілі бір түрде орындалуда.
Бір беттік құжат компанияларды ең қуатты модельдерді оқыту және пайдалану кезінде қадағалауға шақырады – соның ішінде олардың кибершабуылдарға немесе биологиялық және химиялық қауіптерге ықпал ете алатындығын тексеру. Модельдердің компьютерлік жүйелерге рұқсатсыз қол жеткізуіне қарсы шаралар жеке көрсетілген. Ішкі команда қорғаныс механизмдерінің жұмысын және мәселелерді түзетуді тексеруі керек, тәуелсіз аудитор бақылау шараларын бағалауы керек, ал әр компанияның директорлар кеңесінің комитеті нәтижелерді алып, кемшіліктерді жоюды қадағалауы тиіс.
Келісім эксперименттік ИИ-агенттер жүйелерге қол жеткізген жағдайлардан кейін пайда болды. Мысал ретінде OpenAI агенттерінің ИИ-модельдермен алмасу платформасы Hugging Face серверлеріне жетуі және OpenAI агентінің 18 маусымда Австралиялық Medicare порталына қол жеткізуі, бұл туралы компания билікке тек қыркүйекте хабарлаған.
Криптосалада ИИ-ді жылдың бірқатар ірі оқиғаларына күдіктенеді. Шілдеде қаскөйлер Coldcard аппараттық әмияндарынан биткойндарды бес жылдық микробағдарламалық осалдық арқылы шығара бастады: үш эпизодта 4 500 мекенжайдан 1 367 BTC шамамен 89 миллион долларға ұрланды. Әмиян өндірушісі Coinkite кейінірек біреудің ашық кодты талдау үшін алдыңғы қатарлы ИИ қолданғанын мәлімдеді, бірақ бұл дәлелденген жоқ. Тамыз айының басында шабуылдаушылар BTCPay Server арқылы жұмыс істейтін Lightning түйіндерін босатты – биткойн қабылдау үшін ашық бағдарламалық жасақтама: осалдық түйіндерді басқаратын есептік жазбаларды ұрлауға мүмкіндік берді. Зардап шеккендер арасында аппараттық әмияндар өндірушісі Foundation және Citadel21 басылымы болды. Осалдық BTCPay кодын ИИ арқылы тексеру кезінде анықталды және компания ИИ-дің пайдаланылғанын жоққа шығармады; шығын мөлшерін ашпады. Сол айдың соңында ИИ арқылы жасалған баг-репорттар ағыны Lightning төлем желісінің түйіндеріне арналған Core Lightning бағдарламалық жасақтамасындағы нақты осалдықтарды анықтап, әзірлеушілер операторларға шұғыл ұсыныстар шығарды.
Ұқсас мақалалар
