Anthropic предупреждает об угрозе ускорении развития ИИ

Anthropic сообщила, что будущие модели могут вскоре достичь порога резко ускоренного прогресса за счет применения ИИ в исследованиях. Предупреждение появилось 2 ноября 2026 года в обновленной форме S-1/A, поданной в Комиссию по ценным бумагам и биржам США (SEC) перед планируемым IPO.

Речь идет о процессе, при котором ИИ помогает создавать более совершенные версии самого себя. Последующие модели могут ускорять разработку новых систем. Такой механизм называют рекурсивным самоулучшением, однако Anthropic не заявляет, что уже достигла полностью автономного цикла.

Что сообщила Anthropic инвесторам

Компания использует Claude для написания кода, тестирования и оптимизации новых моделей. По ее оценке, расширение этой практики может ускорить развитие технологий сильнее, чем совершенствование методов оценки их безопасности.

Anthropic подчеркнула: “We have not designated any of our current models as exceeding this threshold” – «Мы не признали ни одну из наших действующих моделей превысившей этот порог».

Предупреждение основано на внутренних расчетах и ожиданиях относительно будущих систем. В документе также указано, что компания не всегда может вовремя обнаружить ускорение разработки, поскольку часть оценок опирается на показатели, доступные с задержкой.

Как компания намерена контролировать риски

В политике Responsible Scaling Policy Anthropic определяет один из порогов как удвоение темпа общего прогресса ИИ, которое можно обоснованно связать с автоматизацией исследований и разработок. Это не означает простого удвоения производительности сотрудников.

При приближении к такому уровню компания предусматривает усиленный мониторинг внутренних процессов, проверку поведения моделей и испытания на возможность обхода ограничений. Anthropic также рассматривает изменения политики, чтобы сохранить человеческий контроль над созданием передовых ИИ-систем.

Для потенциальных акционеров риски связаны не только с безопасностью технологий. Если возможности моделей начнут развиваться быстрее инструментов контроля, компания может столкнуться с задержками выпуска продуктов, дополнительными расходами и ограничениями их распространения.

Сроки достижения порога не определены. Anthropic продолжает проверять оценки и не утверждает, что рекурсивное самоулучшение уже стало реальностью.