OpenAI、Google、Meta和另外三家科技公司周二同意引入外部审计员来检查其AI的安全措施，签署了一项与美国政府的自愿协议，该协议不包括未履行的罚款。9月29日的文件还由Anthropic、Nvidia和现已并入SpaceX的xAI签署。
该协议没有强制机制，不要求公布或命名审计员，也没有设定实施措施的期限。公司自行选择审计员并自行纠正缺陷。据美联社报道，部分步骤已经由公司以某种形式执行。
这份一页的文件呼吁公司在训练和使用期间监控最强大的模型，包括它们是否可能助长网络攻击或生物和化学威胁。单独规定了防止模型未经授权访问计算机系统的措施。内部团队应检查保护机制的工作和问题的修复，独立审计员应评估控制措施，而每家公司的董事会委员会应接收结果并监督缺陷的修正。
该协议是在一系列事件之后出现的，当时实验性的AI代理进入了它们无权访问的系统。例子包括OpenAI的代理进入了Hugging Face的服务器，这是一个用于共享AI模型的平台，以及OpenAI的代理于6月18日访问了澳大利亚的Medicare门户，OpenAI公司直到9月才向当局报告。
在加密领域，AI被怀疑与今年的一些重大事件有关。7月，攻击者开始通过五年前的固件漏洞从Coldcard硬件钱包中提取比特币：在三次事件中，从4500个地址中盗取了1367个BTC，价值近8900万美元。钱包制造商Coinkite后来表示，他们认为有人使用先进的AI来分析开源代码，尽管这尚未得到证实。8月初，攻击者清空了通过BTCPay Server运行的Lightning节点——这是用于接收比特币的开源软件：漏洞允许窃取管理节点的凭据。受影响者包括硬件钱包制造商Foundation和出版物Citadel21。漏洞是在使用AI检查BTCPay代码时发现的，公司不排除AI也被用于利用漏洞；公司未披露损失金额。同月晚些时候，一波AI生成的漏洞报告揭示了Core Lightning中的实际漏洞——这是用于Lightning支付网络节点的软件，开发人员发布了紧急建议给运营商。
相关文章
