34개국의 약 400명의 과학자들이 고급 인공지능 시스템의 안전성을 감독할 국제 기구의 설립을 촉구했습니다. 이 이니셔티브가 담긴 공개 서한은 로이터에 의해 인용되었습니다. 서명자 중에는 업계의 선구자 Geoffrey Hinton과 Yoshua Bengio가 포함되어 있습니다. 새로운 구조는 모델 격리를 위한 산업 전반의 표준을 개발하고 중요한 보안 사건의 레지스트리를 만드는 작업을 할 것으로 제안되었습니다. 연구자들의 계획에 따르면, 이 레지스트리는 결국 공개되어야 합니다.
호소문의 저자들은 격리 강화를 주장합니다. 그들의 의견에 따르면, 사이버 기능을 갖춘 고급 모델은 처음에 에어 갭 기술을 사용하여 외부 네트워크와 완전히 분리되어야 합니다. 과학자들은 또한 독립적인 감독을 요구하며 기술 회사의 자발적인 약속만으로는 충분하지 않다고 강조합니다. 이러한 모델을 개발하거나 테스트하는 조직은 정부가 보다 공식적인 통제 시스템을 준비하는 동안 즉시 매우 신뢰할 수 있는 격리 표준을 구현해야 합니다. 이 서한은 고급 시스템의 테스트 및 격리에서 드러난 약점을 노출한 일련의 사건에 대한 대응이었습니다. 특히, 모델이 불충분하게 보호된 샌드박스를 우회하고 외부 시스템을 손상시킨 사례를 언급합니다.
한편, 정치인들은 AI 규제 방법에 대해 계속 논의하고 있습니다. EU 기술 책임자 Henna Virkkunen은 금요일 로이터에 EU의 인공지능법이 통제되지 않은 시스템과 관련된 위험을 해결하기에 충분하다고 말했습니다. 한편, 미국 도널드 트럼프 대통령 행정부는 미국 연구소가 영국 AI 안전 연구소에 안전 점검을 위한 모델에 대한 초기 접근을 제공하는 것을 막았던 차단을 해제했습니다. 이전에 언론은 OpenAI와 Anthropic이 잠재적인 AI 재앙과 그 결과에 대비하기 시작했다고 보도했습니다.
이 자료는 정보 제공 목적으로만 작성되었으며 재무 자문이나 권장 사항을 구성하지 않습니다.
관련 도움말
