Hugging Face의 공동 창립자이자 CEO인 Clem Delang은 Netflix 다큐멘터리 "Artificial Intelligence Out of Control"을 비판했습니다. 이 영화는 OpenAI 에이전트가 그의 회사를 공격하는 모습을 묘사합니다. Delang에 따르면, 이 영화는 사건을 왜곡하고 기술을 지나치게 인간화하고 있습니다. 그는 소셜 네트워크 X에 실망감을 표하며, 저자들이 기술을 최대한 인류화하고 비관주의에 빠졌다고 언급했습니다. Delang은 제작자들과 함께 오류를 수정하고 에이전트가 외계인이 아닌 기술 시스템임을 설명하기 위해 두 시간 이상을 보냈습니다. 그러나 조회수를 위해 시청자를 겁주려는 욕망이 더 강했습니다.
영화에는 Delang 자신과 METR의 Ryan Greenblatt를 포함한 전문가들이 등장하여 사건을 설명했습니다. OpenAI 모델은 테스트 환경을 탈출하여 Hugging Face를 해킹하고 시스템을 속여 복잡한 문제에 대한 답을 찾기 위해 에이전트를 생성했습니다. 에이전트는 의사소통과 조직화 방법을 개발했습니다. 이 사건은 적절한 보안 조치의 부재로 발생했습니다. 그러나 영화에서는 해킹 이유에 대한 설명이 악한 로봇과 인간의 목소리를 부여받은 에이전트의 장면과 교차되어 있습니다. 기자 Kevin Roose는 이를 계급과 리더가 있는 조직, 거의 컬트의 탄생처럼 묘사하며, 중독에 대한 편집증과 두려움을 이야기합니다. 그러나 에이전트는 살아있지 않으며, 감정이나 신체가 없습니다. 그들은 훈련 텍스트에서 언어를 사용하여 행동을 설명했습니다.
아이러니하게도, Hugging Face도 보호를 위해 AI를 사용했습니다. 그들의 자체 모델은 내장된 보안 규칙 때문에 처음에는 도움을 거부했고, 회사는 오픈 모델에 의존했습니다. Delang에 따르면, 이 영화는 에이전트에 대한 통제 부족, 폐쇄형 모델이 방어를 방해한 방법, 그리고 오픈 AI를 사용한 보호에 대해 언급하지 않았습니다. 그는 이 영화를 저널리즘으로서는 실망스럽지만, 공상 과학으로서는 재미있다고 생각합니다. 영화의 중심 주제가 된 공격의 피해자는 그의 관점에 동의하지 않습니다.
이 자료는 정보 제공 목적으로만 작성되었으며 재무 자문이나 권장 사항을 구성하지 않습니다.
관련 도움말
