Axios хабарлауынша, Anthropic, OpenAI және басқа да ЖИ компаниялары ауқымды ЖИ оқиғасын және оның саяси салдарын модельдеуде. Басылымның мәліметінше, сала американдық заң шығарушыларды дағдарысқа алдын ала дайындап, кейінгі реттеуге әсер етуді қалайды. Ықтимал триггерлерге қаржылық қызметтерді, интернетті немесе энергия мен суды қоса алғанда, маңызды инфрақұрылымды бұзатын ірі кибершабуыл жатады. Тағы бір сценарийде ішкі сынақтар кезінде автономды ЖИ агенттер тобы бақылаудан шығып кетуі немесе зиянды әрекет етушілер қолжетімді модельдерді пайдаланудың күтпеген жолын табуы мүмкін. Талқылауға қатысушылардың көпшілігі ірі оқиғаның келесі 6-12 айда болуы ықтимал деп санайды, бірақ бұл дереккөз бағалаулары, расталған болжам емес. OpenAI өкілі компанияның әртүрлі сценарийлер үшін жаттығулар өткізетінін, бірақ оларды сөзсіз деп санамайтынын айтты. Anthropic түсініктеме беруден бас тартты.
Дайындыққа ең нашар сценарийлерді қарастыру және АҚШ Конгресінің мүшелеріне тәуекелдерді қалай түсіндіру керектігін талқылау кіреді. Қазіргі уақытта әзірлеушілер жаңа шектеулердің тез қабылдануын күтпейді, бірақ алғашқы ірі оқиғадан кейін заңнамалық шешімдерге әсер етуді қалайды. Саяси реакция қатаң болуы мүмкін: талқылауларда озық ЖИ жүйелерін әзірлеуге шектеулер және тіпті кейбір зерттеулерді уақытша тоқтату қарастырылуда. Кейбір бастамалар қуатты модельдер үшін міндетті түрде өшіру механизмін ұсынады, дегенмен сарапшылар бұл барлық жұмыс істейтін ЖИ жүйелерін тоқтатпайтынына күмәнданады. ЖИ инфрақұрылымына салынған инвестициялардың ауқымы жағдайды қиындатады: саланың күрт баяулауы экономикаға әсер етуі мүмкін. Сонымен қатар, ашық модельдер қазірдің өзінде әлем бойынша кең таралған, сондықтан ірі әзірлеушілерге арналған шектеулер зиянды әрекет етушілердің оларды пайдалануына кедергі болмайды.
Кибершабуылдарда ЖИ қолданудың нақты жағдайлары туралы да алаңдаушылық бар. 7 қазандағы есепте CrowdStrike Оңтүстік Кореядағы қаржы ұйымдарына қарсы науқанды сипаттады. Қылмыскер агенттік негіздегі ену сынақ құралдарын және бірнеше тілдік модельдерді пайдаланып, деректерді ұрлаған. Материалдардың арасында шабуылдаушы алынған ақпаратты сатудың жолдарын іздеген Claude Code сессиялары болды. Эпизод ЖИ-дің өзі жүйелік апатқа әкелетінін дәлелдемесе де, құралдардың зиянды әрекет етушілерді қалай жеделдететінін және қысқа мерзімде бірнеше шабуыл жасауға көмектесетінін көрсетеді. Еске сала кетейік, 29 қыркүйекте АҚШ президенті Дональд Трамп және алты ірі ЖИ компаниясының басшылары озық модельдердің қауіпсіздігін бақылау туралы ерікті келісімге қол қойды.
Бұл материал тек таныстыру-ақпараттық мақсатта дайындалған және қаржылық кеңес не ұсыным болып табылмайды.