Axios에 따르면 Anthropic, OpenAI 및 기타 AI 회사의 임원들이 대규모 AI 사건과 그 정치적 결과를 시뮬레이션하고 있습니다. 이 출판물에 따르면 업계는 미국 입법자들이 위기에 대비하고 이후의 규제를 영향을 미치기를 원합니다. 주요 촉발 요인으로는 금융 서비스, 인터넷 또는 에너지 및 물을 포함한 중요한 인프라를 방해하는 주요 사이버 공격이 포함됩니다. 또 다른 시나리오로는 내부 테스트 중에 통제 불능 상태에 빠진 자율 AI 에이전트 그룹이 포함되거나 악의적인 행위자가 사용 가능한 모델을 예상치 못한 방식으로 악용하는 경우가 있습니다. 논의에 참여한 많은 사람들은 향후 6~12개월 내에 주요 사건이 발생할 가능성이 있다고 생각하지만, 이는 소스 추정치일 뿐 확인된 예측은 아닙니다. OpenAI의 한 대표는 회사가 다양한 시나리오에 대한 연습을 수행하지만 이를 불가피하다고 간주하지는 않는다고 말했습니다. Anthropic은 논평을 거부했습니다.
준비에는 최악의 시나리오를 처리하고 미국 의회 의원들에게 위험을 설명하는 방법에 대한 논의가 포함됩니다. 현재 개발자들은 새로운 제한이 빠르게 채택될 것으로 기대하지 않지만 첫 번째 주요 사건 이후 입법 결정에 영향을 미치기를 원합니다. 정치적 반응은 심각할 수 있습니다: 논의에는 고급 AI 시스템 개발에 대한 제한 및 특정 연구의 일시 중단까지 포함됩니다. 일부 이니셔티브는 강력한 모델에 대한 강제 종료 메커니즘을 제안하지만 전문가들은 이것이 모든 기능 AI 시스템을 중단시키지는 않을 것이라고 의심합니다. AI 인프라에 대한 투자 규모로 인해 상황이 복잡해지고 있습니다: 업계의 급격한 둔화는 경제에 영향을 미칠 수 있습니다. 게다가 개방형 모델은 이미 전 세계적으로 널리 퍼져 있어, 대형 개발자에 대한 제한이 있더라도 악의적인 행위자에 의한 사용을 막을 수는 없습니다.
사이버 공격에서 AI 사용의 실제 사례에 대한 우려도 있습니다. 10월 7일자 보고서에서 CrowdStrike는 한국의 금융 기관을 대상으로 한 캠페인을 설명했습니다. 범죄자는 에이전트 기반 침투 테스트 도구와 여러 언어 모델을 사용하여 데이터를 탈취했습니다. 자료 중에는 Claude Code 세션이 포함되어 있었으며, 공격자는 획득한 정보를 판매할 방법을 모색했습니다. 이 에피소드는 AI 자체가 시스템적 재앙을 초래할 것임을 증명하지는 않지만 도구가 악의적인 행위자를 가속화하고 짧은 시간에 여러 공격을 수행하는 데 어떻게 도움이 되는지를 보여줍니다. 9월 29일 도널드 트럼프 미국 대통령과 6개의 주요 AI 회사의 리더들이 고급 모델의 안전성을 통제하기 위한 자발적 합의에 서명했다는 점을 상기하십시오.
이 자료는 정보 제공 목적으로만 작성되었으며 재무 자문이나 권장 사항을 구성하지 않습니다.