Anthropic AI дамуының жылдамдауынан қауіп туралы ескертеді

Anthropic болашақ модельдер зерттеуде AI қолдану арқылы тездетілген прогресс шегіне жетуі мүмкін екенін хабарлады. Бұл ескерту 2026 жылдың 2 қарашасында жоспарланған IPO алдында АҚШ-тың Бағалы қағаздар және биржалар жөніндегі комиссиясына (SEC) тапсырған жаңартылған S-1/A формасында пайда болды.

Бұл AI өзінен де жетілдірілген нұсқаларын жасауға көмектесетін процесс туралы. Кейінгі модельдер жаңа жүйелерді әзірлеуді жеделдете алады. Бұл механизм рекурсивті өзін-өзі жетілдіру деп аталады, бірақ Anthropic әлі толық автономды циклге қол жеткізгенін мәлімдемейді.

Anthropic инвесторларға не айтты

Компания код жазу, жаңа модельдерді сынау және оңтайландыру үшін Claude қолданады. Бұл тәжірибені кеңейту технологиялық дамуды олардың қауіпсіздігін бағалау әдістерін жақсартудан гөрі тездетуі мүмкін деп есептейді.

Anthropic атап өтті: “Біз қазіргі модельдеріміздің ешқайсысын бұл шектен асқан деп белгілемедік.”

Ескерту ішкі есептеулер мен болашақ жүйелерге қатысты күтілімдерге негізделген. Құжатта компания кейбір бағалаулар кешігіп қолжетімді болатын метрикаларға сүйенетіндіктен, даму жеделдеуін уақытында анықтай алмауы мүмкін екені де айтылған.

Компания тәуекелдерді қалай бақылауды жоспарлайды

Жауапты масштабтау саясаты аясында Anthropic AI-дің жалпы прогресс жылдамдығын екі еселеуді зерттеу мен әзірлеуді автоматтандырумен байланыстыратын шектердің бірі ретінде анықтайды. Бұл жай ғана қызметкерлердің өнімділігін екі еселеу дегенді білдірмейді.

Осындай деңгейге жақындаған кезде, компания ішкі процестерді күшейтілген бақылауды, модельдердің мінез-құлқын тексеруді және шектеулерді айналып өту сынақтарын қамтамасыз етеді. Anthropic сондай-ақ жетілдірілген AI жүйелерін құруда адам бақылауын сақтау үшін саясатты өзгерту мүмкіндігін қарастыруда.

Әлеуетті акционерлер үшін тәуекелдер тек технологиялардың қауіпсіздігімен байланысты емес. Егер модельдердің мүмкіндіктері бақылау құралдарынан жылдам дамып бастаса, компания өнімді шығару кідірістерімен, қосымша шығындармен және тарату шектеулерімен бетпе-бет келуі мүмкін.

Шекке жету мерзімі анықталмаған. Anthropic бағалауларды тексеруді жалғастыруда және рекурсивті өзін-өзі жетілдірудің шындыққа айналғанын мәлімдемейді.