CEO Anthropic Дарио Амодеи опубликовал эссе, призывающее к ужесточению регулирования искусственного интеллекта в США и переходу от простой прозрачности к обязательным проверкам безопасности. Вместе с эссе компания представила два документа: Advanced AI Framework для надзора за фронтирными моделями и Economic Policy Framework для подготовки экономики к вытеснению работников. Амодеи предложил ввести обязательное внешнее тестирование для моделей, превышающих порог в 10²⁵ FLOPs, или если разработчик зарабатывает более $500 млн в год на ИИ либо тратит свыше $1 млрд на исследования и разработки в этой сфере. Тесты должны охватывать кибербезопасность, создание биологического оружия, потерю контроля и автоматизированные R&D. При выявлении неприемлемых рисков власти должны получить право блокировать запуск модели, что Амодеи сравнил с техническим аудитом в авиации.

В сфере экономики Амодеи предупредил о возможных масштабных сбоях на рынке труда, допускающих уровень безработицы до 10% и выше. В качестве мер он предложил улучшенный сбор данных, программы переобучения и, в крайнем случае, введение безусловного базового дохода. Для поддержки исследований в этой области Anthropic направит $200 млн в Economic Futures Research Fund и создаст программу стипендий для специалистов на $150 млн.

Отдельное внимание в эссе уделено гражданским свободам. Амодеи призвал закрепить правила подотчетности для полностью автономного оружия, запретить его применение внутри США и закрыть лазейки с покупкой данных для массового надзора. Также он предложил обеспечить гражданам доступ к ИИ, не уступающему тому, который государство использует в регуляторных целях. Эти инициативы появились на фоне недавнего запуска моделей Claude Fable 5 и Mythos 5, а также заявлений команды Anthropic о признаках приближения ИИ к рекурсивному самосовершенствованию, что может потребовать механизмов замедления разработки.