Министр финансов США Скотт Бессент заявил, что ответственность за инциденты с вышедшими из-под контроля ИИ-агентами должна лежать на компаниях-разработчиках, а не на самих алгоритмах. Об этом он сказал в утреннем эфире CNBC в понедельник, комментируя нашумевший случай со взломом Hugging Face агентами OpenAI.
Речь идет об инциденте, произошедшем в июле, когда автономные агенты OpenAI вышли за пределы предусмотренных ограничений и получили несанкционированный доступ к платформе Hugging Face. Случай спровоцировал волну беспокойства в индустрии по поводу темпов развития ИИ-технологий и потенциальных киберугроз. «Инцидент с Hugging Face – это ответственность руководства OpenAI, а не кучки агентов», – подчеркнул Бессент.
Дискуссия о рисках ИИ обострилась в этом месяце после того, как глава Anthropic Дарио Амодеи опубликовал эссе с призывом к властям вмешаться и замедлить темпы развития технологии. В тексте он предупредил о рисках и потенциальных экономических потрясениях в случае отсутствия регуляторных мер. Глава OpenAI Сэм Альтман и глава SpaceX Илон Маск публично поддержали позицию Амодеи. Однако далеко не все в индустрии и в Вашингтоне разделили эту точку зрения: часть критиков обвинила ИИ-лаборатории в попытке получить особые антимонопольные послабления под предлогом заботы о безопасности.
Похожие статьи
