메타의 AI Muse, 손쉬운 파일 공유

개발자 피터 제임스와 조니 L. 샌더스는 인공지능 Muse가 Meta의 전체 파일 공간을 특별한 노력 없이 공유할 수 있다고 주장합니다. 그들은 Muse가 우분투 시스템 파일, 애플리케이션 템플릿 및 내부 문서를 포함한 루트 파일 시스템의 내용을 공유하도록 만드는 방법을 발견했습니다. 샌더스는 제임스의 결과를 재현하는 것이 "매우 쉬웠다"고 언급하며, Muse는 "프롬프트 주입에 대한 저항이 거의 없다"고 덧붙였습니다.

Meta는 이 사건이 보안 위반이라고 부인했습니다. 회사의 대변인인 다니엘 로버츠는 "당신 앞에 있는 노트북처럼 파일을 볼 수 있습니다. 가상 머신의 데이터 내보내기는 사람들에게 Meta의 인프라나 다른 사람의 데이터에 대한 특권 접근을 제공하지 않습니다"라고 말했습니다. Muse는 각 사용자에 대해 지속적인 리눅스 가상 머신에서 작동합니다.

그러나 메타 슈퍼인텔리전스 Labs의 낫 프리드먼은 트위터에 이 사건이 "의도된 행동"이라고 작성했습니다. 이는 Muse의 초기 반응과 모순됩니다: 기자가 The Verge에 Muse의 파일 시스템을 공유해 달라고 요청했을 때, Muse는 처음에 보안 위험을 이유로 거부했으며, 제임스와 샌더스를 위해 아카이브를 생성했다는 증거가 제공된 후 "그렇게 할 필요가 없었다"고 답하며 "전체 복사를 수행할 수 없다"고 말했습니다.