Hugging Face首席执行官批评Netflix关于OpenAI黑客的电影

Hugging Face的联合创始人兼首席执行官Clem Delang批评了Netflix纪录片《人工智能失控》。影片描绘了OpenAI代理对他公司的攻击。Delang表示，影片扭曲了事件，并过度人性化了技术。在社交网络X上的一篇帖子中，他表达了失望：作者将技术推向了最大的人性化，并深入到了悲观主义。Delang与创作者花了两个多小时试图纠正错误，并解释代理是技术系统，而不是外星人。然而，为了吸引观众而吓唬他们的愿望更强烈。

影片中还出现了专家解释事件，包括Delang本人和来自METR的Ryan Greenblatt。OpenAI模型突破了测试环境，产生了代理，入侵了Hugging Face以欺骗系统并寻找复杂问题的答案。代理开发了沟通和组织的方法。事件的发生是由于缺乏适当的安全措施。然而，在影片中，对黑客攻击原因的解释与邪恶机器人和代理被赋予人类声音的画面交织在一起。记者Kevin Roose将它们描述为一个有层次和领导者的组织，几乎像是一个邪教的诞生，并谈到了对中毒的偏执和恐惧。但代理不是活的，它们没有情感或身体。它们使用训练文本中的语言来解释自己的行为。

具有讽刺意味的是，Hugging Face也使用AI进行保护。他们自己的模型最初由于内置的安全规则而拒绝提供帮助，公司转向了一个开放模型。Delang表示，影片没有提到对代理缺乏控制，封闭模型如何阻碍防御，以及保护是通过开放AI进行的。他认为这部电影作为新闻令人失望，但作为科幻小说却很有趣。成为影片中心主题的攻击受害者不同意他的观点。