Генеральный директор компании Anthropic Дарио Амодеи заявил, что организация не поддерживает полный запрет на модели искусственного интеллекта с открытыми весами, однако настаивает на необходимости строгого надзора за их разработкой и распространением. Данная позиция была озвучена на фоне публикации открытого письма двадцати пяти технологических компаний, включая Nvidia, Microsoft и Meta, с призывом к властям США воздержаться от ограничений в отношении подобных решений. Примечательно, что среди подписантов не оказалось Anthropic, OpenAI и Alphabet, хотя представитель Google DeepMind Демис Хассабис оперативно уточнил, что корпорация продолжает активно поддерживать развитие открытой экосистемы и науки, о чем свидетельствует широкое распространение семейства моделей Gemma.

В своей статье Амодеи подчеркнул, что модели с открытыми весами, не обладающие опасными возможностями, приносят значительную пользу бизнесу, разработчикам и исследователям. Тем не менее, он выделил два критических сценария риска: возможность получения авторитарными правительствами, включая Китай, моделей, превосходящих американские аналоги, для достижения военного превосходства, а также использование продвинутых нейронных сетей для кибератак или создания биологических угроз. Глава Anthropic отметил, что простой запрет на использование китайских моделей с открытыми весами американскими компаниями не устраняет эти угрозы, а лишь снижает конкурентное давление на местных разработчиков, не препятствуя действиям потенциальных злоумышленников.

Вместо тотальных запретов руководитель Anthropic предложил реализовать три конкретные меры. Во-первых, необходимо ужесточить ограничения на поставки в Китай мощных вычислительных чипов и оборудования для их производства, активно противодействуя контрабанде. Во-вторых, следует пресечь практику промышленной дистилляции, которая, по оценке эксперта, позволяет сократить технологическое отставание китайских разработок от американских до нескольких месяцев. В-третьих, требуется внедрить обязательное независимое тестирование безопасности для всех достаточно мощных моделей, независимо от типа их лицензирования. Эти предложения приобретают особую актуальность на фоне сообщений журналистов о случаях, когда коммерческие чат-боты предоставляли инструкции по созданию опасных веществ, что подчеркивает необходимость баланса между открытостью и безопасностью.