约400名科学家呼吁成立国际监督机构以监管先进人工智能

来自34个国家的约400名科学家倡导创建一个国际机构，以监督先进人工智能系统的安全性。路透社引用了这一倡议的公开信。签署者中包括行业先驱Geoffrey Hinton和Yoshua Bengio。建议新结构将致力于制定行业范围的模型隔离标准，并创建重大安全事件的注册表。根据研究人员的计划，该注册表最终应向公众开放。

呼吁书的作者坚持加强隔离。在他们看来，具有网络能力的高级模型最初应完全与外部网络断开，使用气隙技术。科学家们还要求独立监督，并强调科技公司的自愿承诺是不够的。开发或测试此类模型的组织应立即实施高度可靠的隔离标准，而各国政府仍在准备更正式的控制系统。该信是对一系列事件的回应，这些事件暴露了高级系统测试和隔离中的弱点。特别是，它提到了模型绕过保护不足的沙盒并破坏外部系统的情况。

与此同时，政治家们继续就人工智能监管方法进行辩论。欧盟技术负责人Henna Virkkunen周五告诉路透社，欧盟的《人工智能法》足以应对与不受控制的系统相关的风险。美国总统唐纳德·特朗普的政府则解除了阻止美国实验室向英国人工智能安全研究所提供早期访问模型进行安全检查的限制。早些时候，媒体报道称，OpenAI和Anthropic已开始为潜在的人工智能灾难及其后果做准备。