2026년에는 딥페이크가 사기, 자금 도난 및 KYC 우회를 위한 도구로 널리 사용되었습니다. TRM Labs에 따르면, 범죄에서 AI 사용 지수는 2024년 28점에서 2026년 54점으로 증가했습니다. 2026년 첫 몇 달 동안 딥페이크 사기로 인한 손실은 2025년 전체 수치를 263% 초과했습니다. 사기꾼들은 목소리, 얼굴 및 문서를 복제하기 위해 딥페이크를 사용합니다. 그들의 계획에는 송금이나 기밀 정보를 얻기 위한 경영진 및 친척의 사칭, 그리고 AI가 사진과 비디오를 생성하여 동시에 여러 대화를 유지하는 로맨틱 사기가 포함됩니다. Arup 회사와 관련된 사건은 딥페이크를 통해 2,500만 달러가 도난당한 대표적인 사례입니다.
Deloitte의 예측에 따르면, 미국에서 생성적 AI를 사용한 사기로 인한 손실은 2023년 123억 달러에서 2027년까지 400억 달러로 증가할 수 있습니다. 2025년부터 2026년까지 FBI는 공무원 및 법 집행관을 모방하기 위한 합성 비디오 및 음성 사용에 대해 여러 차례 경고했습니다. 캘리포니아 대학교 버클리의 연구원 하니 파리드는 딥페이크의 품질이 비디오 신원 확인을 우회할 수 있게 하여 암호화 산업에 심각한 문제를 제기한다고 지적합니다. 기술 발전으로 인해 금융 부문과 일반 사용자에게 위험을 초래하는 가운데 보안 문제가 점점 더 중요해지고 있습니다.
딥페이크를 인식하기 위해 전문가들은 부자연스러운 눈 깜박임, 얼굴이나 입의 움직임, 이미지 왜곡 및 입술 움직임과 음성의 비동기화와 같은 징후에 주의를 기울일 것을 권장합니다. FBI는 사기를 방지할 수 있는 독립적인 통신 채널을 사용하여 신원을 확인할 것을 권장합니다. 딥페이크 문제는 금융적 위험뿐만 아니라 법적 문제도 야기합니다. 예를 들어, 2026년 1월 애슐리 세인트클레어는 그녀의 동의 없이 노골적인 딥페이크를 만든 xAI 회사를 상대로 소송을 제기했습니다. 이와 같은 맥락에서 딥페이크로부터의 보호를 연구하는 회사들의 연구 작업은 사용자와 비즈니스의 안전을 보장하는 데 중요해지고 있습니다.
관련 도움말
