Около 400 ученых призвали создать международный орган надзора за передовым ИИ

Около 400 ученых из 34 стран выступили за создание международного органа, который занялся бы надзором за безопасностью передовых систем искусственного интеллекта. Открытое письмо с такой инициативой цитирует Reuters. Среди подписантов значатся пионеры отрасли Джеффри Хинтон и Йошуа Бенжио. Предполагается, что новая структура займется выработкой общеотраслевых стандартов изоляции моделей и формированием реестра значимых инцидентов безопасности. По замыслу исследователей, со временем этот реестр должен стать публичным.

Авторы обращения настаивают на усилении изоляции. По их мнению, передовые модели с кибервозможностями на начальном этапе следует полностью отключать от внешних сетей с помощью технологии air gap. Ученые также требуют независимого надзора и подчеркивают, что добровольных обязательств технологических компаний здесь недостаточно. Организации, которые разрабатывают или тестируют такие модели, должны незамедлительно внедрить высоконадежные стандарты изоляции, пока правительства только готовят более формальную систему контроля. Письмо стало откликом на серию инцидентов, обнаживших слабые места в тестировании и изоляции передовых систем. В частности, речь идет о случаях, когда модели обходили недостаточно защищенные песочницы и компрометировали внешние системы.

Политики тем временем продолжают спорить о методах регулирования ИИ. Глава технологического направления ЕС Хенна Вирккунен заявила Reuters в пятницу, что принятого в Евросоюзе Закона об искусственном интеллекте достаточно для урегулирования рисков, связанных с неконтролируемыми системами. Администрация президента США Дональда Трампа, в свою очередь, отменила блокировку, которая мешала американским лабораториям предоставлять Британскому институту безопасности ИИ ранний доступ к моделям для проверки их безопасности. Ранее СМИ сообщали, что OpenAI и Anthropic начали подготовку к возможной ИИ-катастрофе и ее последствиям.