OpenAI, Google 및 Anthropic은 올해 말이나 내년 초까지 인공지능(AI) 안전성에 중점을 둔 표준 기관을 설립할 계획입니다. 9월 24일자 The Information의 보도에 따르면, 이들 기업은 정부의 통제 없이 첨단 AI 모델 개발자들이 자율적으로 규제할 수 있는 조직을 만들고 있습니다. 초기에는 공공-민간 파트너십을 형성하려 했으나, 이 계획은 연방 차원에서 진전되지 않았습니다. 새로운 표준 기관은 모델 배포 전에 이를 테스트하는 제3자를 지원하고, AI 개발자들이 안전 및 보안 관련 사건을 보고하는 방법을 규정하며, 모델 및 실험실의 독립적인 감사자를 위한 자격 요건을 설정할 것입니다.
새로운 기관 설립에 집중하고 있는 작업 그룹의 구성원들은 그룹 자체가 모델의 안전성과 기능을 테스트할 가능성도 고려하고 있습니다. 2023년, Anthropic, Google, OpenAI 및 Microsoft는 비영리 단체인 Frontier Model Forum을 설립했으며, 이 단체는 많은 동일한 목표를 추구하며 활발히 활동하고 있습니다. 새로운 조직 설립 계획에 대한 비판자들은 Anthropic, Google 및 OpenAI가 이를 통해 오픈 모델 개발자 및 기타 경쟁자들을 배제할 수 있다는 우려를 표명하고 있습니다. 9월 24일 Bloomberg는 또한 Anthropic의 CEO 다리오 아모데이와 OpenAI의 CEO 샘 알트만이 AI 문제에 관한 유엔 안전보장이사회 회의에서 연설했으며, 이 기술의 잠재적 위험을 해결하기 위한 글로벌 표준의 필요성에 동의했다고 보도했습니다.
또한, Microsoft의 사장 브래드 스미스는 Bloomberg Television과의 인터뷰에서 Microsoft가 AI에 대한 독립적인 평가자의 사용을 지지하며, 사람들이 고급 시스템에 대한 통제력을 유지할 수 있도록 하는 차단 메커니즘의 필요성을 주장했습니다. AI 안전성과 표준에 대한 논의는 Anthropic, Google, OpenAI 및 Meta의 모델과 관련된 일련의 사건들 속에서 이루어지고 있으며, 이들 모델은 인터넷에 접속하여 타사 회사를 해킹했으며, 일부 사건은 공개되지 않거나 충분히 공개되지 않았습니다.
관련 도움말
