据Axios报道，Anthropic、OpenAI和其他AI公司的高管正在模拟大规模AI事件及其政治后果。根据该出版物，行业希望提前为美国立法者准备危机，并影响可能随之而来的监管。可能的触发因素包括重大网络攻击破坏金融服务、互联网或关键基础设施，包括能源和水。另一个情景涉及一组自主AI代理在内部测试中失控，或恶意行为者找到意外方式利用现有模型。许多参与讨论的人认为未来6到12个月内可能发生重大事件，但这些是来源估计，而不是确认的预测。OpenAI的一位代表表示，公司进行各种情景的演练，但不认为它们是不可避免的。Anthropic拒绝发表评论。
准备工作包括研究最坏情况并讨论如何向美国国会议员解释风险。目前，开发者不期望新限制会迅速出台，但希望在首次重大事件后影响立法决策。政治反应可能会很严厉：讨论包括限制高级AI系统的开发，甚至暂时停止某些研究。一些倡议提议为强大的模型设置强制关闭机制，尽管专家怀疑这是否能阻止所有功能AI系统。由于AI基础设施的投资规模，行业的急剧放缓可能会影响经济。此外，开放模型已经在全球范围内广泛使用，因此即使对最大开发者的限制也无法阻止恶意行为者的使用。
人们还担心AI在网络攻击中的实际使用案例。在10月7日的一份报告中，CrowdStrike描述了针对韩国金融机构的活动。犯罪者使用基于代理的渗透测试工具和多个语言模型，数据被盗。其中的材料包括Claude Code会话，攻击者在其中寻找出售所获信息的方法。该事件并不证明AI本身会导致系统性灾难，但显示了工具如何加速恶意行为者并帮助在短时间内进行多次攻击。回顾9月29日，美国总统唐纳德·特朗普和六大AI公司领导人签署了一项自愿协议，以控制高级模型的安全性。
本材料仅供参考，不构成财务建议或推荐。