比尔·盖茨：人工智能的主要威胁——缺乏保护措施的恶意行为者

比尔·盖茨表示，目前人工智能（AI）的真正危险来自于恶意行为者在没有安全措施的情况下使用它。他说，AI失去人类控制的风险将在未来几年出现。这位微软联合创始人在接受CNN《国情咨文》节目主持人杰克·塔珀采访时表示。他还指出，网络攻击可能是未来一年此类滥用行为最突出的表现。

盖茨警告的核心是安全措施

塔珀询问领导者是否做了足够的工作来防止使用AI进行生物恐怖主义。盖茨回答说，做得还不够。据他介绍，开发人员正在尝试通过安全措施来阻止网络攻击和生物恐怖主义，但目前所有这些措施都很容易被移除。

“现在的真正危险不是AI失控，”盖茨说。

他强调了恶意行为者、缺乏安全措施和最新模型的结合。盖茨指出了一种众所周知的商业模式，分为两种形式。一种是威胁要做某事并要求付款。另一种是制造扰乱，影响股市或利率。

“当你有坏人、没有安全措施和最新模型时，尤其是在网络领域，我们将面临许多负面惊喜，”他补充道。

科技行业也发出了类似的警告

科技公司指出时间表甚至更短。8月，OpenAI发布了一封关于网络安全的公开信，由100多个组织签署。信中指出：“在未来几个月，AI驱动的网络攻击将变得更加普遍和复杂……”

最近的研究表明，薄弱的保护机制已经在塑造恶意行为者的行为。台湾公司TeamT5发现，与中国国家有关的团体在将常规工作交给AI后，其攻击量翻了一番。

Chainalysis追踪到区块链中类似的增长。在2025年中期出现不受限制的中国恶意代码模型后，记录在区块链上的恶意软件指令激增了440%。

利润动机在最近的案例中也很明显。CrowdStrike将几起韩国银行的黑客攻击与可能使用AI工具的财务动机行为者联系起来。