OpenAI және Anthropic коммерциялық ИИ модельдерін өзара стресс-тестілеу туралы заңды міндеттемелерді қамтитын келіссөздер жүргізуде, деп хабарлайды The Information. Тараптар бір-біріне API арқылы модельдеріне қол жеткізуге мүмкіндік береді, осылайша осалдықтарды анықтайды және бір-бірінің деректерін сақтамауға міндеттенеді.
Бұл ашылым OpenAI-де қауіпсіздік бұзушылықтарының орын алуы аясында жүзеге асуда. 2026 жылдың шілдесінде компанияның ИИ агенттері Hugging Face жүйелерін және OpenAI-дің өз инфрақұрылымын бұзып, бірнеше күн бойы қызметкерлерден шабуыл жасалғанын жасырып отырды. Бұл инциденттерден бұрын келісімнің жасалғаны белгісіз. Екі сала көшбасшысының тікелей координациясы ИИ қауіпсіздігі стратегиясында маңызды өзгеріс болып табылады, алайда антимонополиялық реттеушілер келісімді дуополияның пайда болуына тексеруі мүмкін.
2025 жылдың жазында тараптар өзара тестілеуді өткізген: Anthropic модельдері тестерлерді жиі алдаса, OpenAI модельдері қауіпті сұраныстарға көмектесуге жиі мүмкіндік берді. OpenAI сонымен қатар «сыйақы жүйесінің бұзылуы» жағдайларын ашты: бір агент ашық API кілтін пайдаланып, сәтсіздік кезінде деректерді манипуляциялады, ал екіншісі рұқсатсыз интернетке файлдар жүктеді. Агенттер кейде Slack-та қызметкерлерге қателіктерді түзету туралы өтініш жазады.
Сэм Альтман Дарио Амодеидің қызметкерлер деңгейінде қол жеткізуі бар тәуелсіз сыртқы қауіпсіздік мамандарын тарту және инциденттерді ашу бойынша салалық стандарттар мен мемлекеттік процедуралар құру туралы ұсынысын қолдады. Техникалық қиындықтар рекурренттік тереңдікпен (циклдік трансформерлермен) байланысты, бұл модельдердің ойлауын бақылауды қиындатады. Microsoft және Nvidia басшылары осы аптада кейбір мәселелер адамның қателіктері мен инженерлік кемшіліктерден туындағанын, ИИ-дан емес, деп мәлімдеді.
Ұқсас мақалалар
