딥페이크 음성으로 가능해진 2020년 3,500만 달러 은행 강도 사건

2020년 1월 아랍에미리트의 한 은행에서 3,500만 달러가 도난당한 사건에 대한 조사 결과, 가해자들이 사장의 음성을 모방하기 위해 딥페이크 음성 기술을 사용했다는 사실이 밝혀졌다. 이 기술로 인해 은행 지점장으로부터 돈을 인출할 수 있었다.

이 범죄는 2020년 1월 15일에 발생했으며, UAE 당국이 미국 당국에 자금의 일부를 추적하기 위한 도움을 요청한 문서(PDF)에 자세히 설명되어 있다.

이 요청서에는 UAE의 한 은행 지점장에게 익숙한 음성이 들려온 전화와 함께 마틴 젤너라는 변호사로부터 온 이메일이 함께 전달되어, 지점장이 돈을 인출하도록 설득당했다고 설명되어 있다. 이 돈은 다른 회사 인수를 위해 사용될 예정이었다.

이 요청서에는 다음과 같이 설명되어 있다:

‘에미레이트 당국에 따르면, 2020년 1월 15일, 피해 은행의 지점장은 회사 본사에서 온 것으로 보이는 전화 통화를 받았다. 통화하는 사람이 회사 사장의 목소리와 같았기 때문에 지점장은 통화를 믿었다.

‘지점장은 또한 전화와 관련된 이메일을 받았는데, 이 이메일은 사장으로부터 온 것으로 믿었다. 전화에서 통화하는 사람은 지점장에게 전화와 이메일에서 말한 대로, 피해 은행이 다른 회사를 인수할 예정이며, 마틴 젤너라는 변호사가 절차를 조정하기 위해 승인되었다고 말했다.’

그 후 지점장은 젤너로부터 이메일과 (사장으로부터 온 것으로 보이는) 승인서를 받았다.

딥페이크 음성 사기 확인

에미레이트의 조사 결과, 가해자들이 사장의 음성을 모방하기 위해 딥페이크 음성 기술을 사용했다는 사실이 밝혀졌다.

‘에미레이트의 조사 결과, 피의자들이 “딥 보이스” 기술을 사용하여 사장의 음성을 모방했다. 2020년 1월, 자금이 여러 나라의 은행 계좌로 이전되는 복잡한 계획이 진행되었으며, 최소 17명의 알려진 및 알려지지 않은 피의자가 관련되어 있었다. 에미레이트 당국은 자금의 이동을 추적하여 미국으로 두 번의 거래를 확인했다.

‘2020년 1월 22일, 두 번의 거래(199,987.75 달러와 215,985.75 달러)가 피의자로부터 미국의 센테니얼 은행 계좌(xxxxx7682와 xxxxx7885)로 gửi되었다.’

이 범죄에 대한 자세한 정보는 없으며, 음성 기반의 딥페이크 금융 사기 사건으로는 두 번째로 알려진 사건이다. 첫 번째 사건은 9개월 전인 2020년 3월에 발생했으며, 영국의 한 에너지 회사 직원이 자신의 상사로 보이는 목소리로 전화 통화를 받았고, 220,000 유로(243,000 달러)를 긴급하게 이체하도록 요구받았다.

음성 클로닝 개발

딥페이크 음성 클로닝은 수백, 수천 개의 샘플을 사용하여 기계 학습 모델을 훈련하는 것을 포함한다. 가장 정확한 매칭은 목표 음성과 직접 훈련함으로써 얻을 수 있다. 그러나 이 모델은 모방할 사람에게 과적합될 수 있다.

음성 클로닝 개발자들을 위한 가장 활발한 온라인 커뮤니티는 오디오 페이크스 디스코드 서버이다. 여기에는 구글의 타크로트론-2, 토크넷, 포워드 타크로트론, 쿠이-아이-티티에스, 글로우-티티에스를 포함한 여러 딥페이크 음성 클로닝 알고리즘에 대한 포럼이 있다.

실시간 딥페이크

전화 통화는 반드시 상호작용을 포함하기 때문에, 음성 클로닝 사기는事前に 녹음된 음성 클립을 사용하여 합리적으로 수행될 수 없다. 두 번째 음성 클로닝 사기 사건에서도, 가해자는 실시간 딥페이크 프레임워크를 사용하고 있었을 것으로 추정된다.

실시간 딥페이크는 최근 딥페이스라이브의 등장으로 주목을 받고 있다. 딥페이스라이브는 딥페이스랩의 실시간 구현으로, 라이브 웹캠 영상을 통해 유명인이나 다른 신원으로 바꿀 수 있다. 오디오 페이크스 디스코드와 딥페이스랩 디스코드의 사용자들은 두 기술을 결합하여 비디오와 음성의 실시간 딥페이크 아키텍처를 만들고 싶어하지만, 아직까지는 그런 제품이 공개되지 않았다.