영국의 9.4억 파운드의 딥페이크 사기 손실이 미국에 보내는 신호

영국에서 새롭게 나타나는 통계에 따르면 딥페이크를 이용한 사기는 간헐적인 실험을 넘어서서 지속적인 산업 규모의 범죄 활동으로 전환되었다. 글로벌 안티 스캠 얼라이언스와 가디언의 보고에 따르면, 영국의 소비자들은 2025년 11월까지 9개월 동안 AI 기반 사기에 약 94억 파운드를 잃었다. 이는 디지털 사기의 규모와 복잡성이 급격히 증가하고 있음을 나타낸다.

헤드라인은 종종 정치적 부정확성 또는 합성 비디오에 초점을 맞추지만, 더 중요한 변화는 금융 서비스, 디지털 신원 시스템 및 온라인 플랫폼에서 발생하고 있다. 딥페이크 기술은 과거 연구실과 인터넷 커뮤니티에 국한되었지만,현재는 사기 도구의 생태계에 통합되었다. 범죄자들은 얼굴 교환 소프트웨어, AI 생성 음성 클로닝, 합성 신원 생성 및 문서 위조를 결합하여 전통적인 검증 제어를 우회할 수 있는 공격을 만들 수 있다.

그 영향은 한 시장에 머물지 않는다. 영국의 피해 규모는 원격 가입, 디지털 은행, 자동 의사결정이 상거래의 기반이 된 미국에서도 주목받고 있다. 영국의 94억 파운드 손실은 AI 기반 사기가 얼마나 빠르게 진화하는지 보여 주는 분명한 신호다. 미국 연방거래위원회(FTC)에 따르면 미국 소비자의 2023년 사기 피해액은 처음으로 100억 달러를 넘었고, 사칭과 신원 사기가 주요 유형에 포함됐다. FTC 소비자 신고 데이터에서도 디지털 사칭이 꾸준히 늘며 AI 조작 도구의 지원을 받는 사례가 증가하고 있다. 금융 기관들은 이미 이러한 영향을 느끼고 있다. 2023년에 FBI 인터넷 범죄 신고 센터는 사이버 범죄로 인한 총 손실이 약 125억 달러에 달했다고 보고했으며, 비즈니스 이메일 컴프롬과 투자 사기가 전체 손실의 상당한 부분을 차지했다.

AI 기반 사기의 금융적 비용

금융 기관들은 이미 이러한 영향을 느끼고 있다. 2023년에 FBI 인터넷 범죄 신고 센터는 사이버 범죄로 인한 총 손실이 약 125억 달러에 달했다고 보고했으며, 비즈니스 이메일 컴프롬과 투자 사기가 전체 손실의 상당한 부분을 차지했다. 생성된 AI는 사기범들이 더 쉽게 합성 신원을 만들 수 있게 해주므로, 이러한 범주는 합성 미디어 기법과 더 자주 교차할 가능성이 있다.

전 세계적인 사기 풍경도 압력을 받고 있다. Nasdaq의 세계 금융범죄 보고서는 2023년 전 세계 사기 및 은행 사기의 추정 손실을 4,850억 달러 이상으로 집계했다. 모두가 딥페이크와 관련된 것은 아니지만, 분석가들은 생성형 AI가 범죄 활동의 효율과 설득력을 높이는 증폭기로 작용한다고 본다.

영국은 높은 디지털 서비스 이용률, 오픈뱅킹, 원격 신원 확인이 결합되어 악용하기 좋은 환경이 형성됐다. 금융사, 긱 경제 플랫폼, 온라인 마켓이 자동 신원 확인과 원격 가입에 크게 의존하는 미국에도 같은 구조적 조건이 존재한다.

단일 사기에서 대규모 작전으로

딥페이크 사기는 2017년에 처음 등장한 이후 여러 단계를 거치며 발전해왔다. 초기 사례들은 종종 단일의 사기 시도였다. 2019년에 범죄자들은 AI 생성 음성 클로닝을 이용하여 CEO의 목소리를 모방하고, 영국의 에너지 회사에서 22만 유로를 불법으로 이전했다. 현재의 물결은 더 체계적이다. 범죄자들은 합성 신원 키트를 패키지화하여 AI 생성 운전면허증, 조작된 바이오메트릭 셀카, 그리고 일치하는 데이터 레코드를 포함한다.

오픈소스 생성적 적대 신경망과 소비자용 얼굴 교환 도구는 기술 장벽을 낮췄다. 과거에는 전문 지식이 필요했지만 이제 온라인 시장과 암호화 메신저에서 필요한 요소를 조립할 수 있다.

Europol은 생성형 AI가 사기 서비스 모델을 가속해 조직범죄 집단이 피싱을 자동화하고 다국어 사기 대본과 위조 신원증명을 대량 제작할 수 있게 한다고 경고했다. 합성 미디어는 비용을 낮추면서 도달 범위와 사실성을 함께 높인다.

문제는 기존 신원 확인 시스템이 정적인 정보 확인을 전제로 만들어졌다는 점이다. 문서 진위, 데이터베이스 대조, 단순 얼굴 일치에 집중하는 사이 AI 생성 얼굴은 기본적인 생체 확인을 통과할 수 있고, 합성 신원은 실제 정보와 조작 정보를 섞어 교차 확인을 피한다. 공격자는 탐지 기준을 넘을 때까지 반복해 연습할 수 있어 방어는 계속 진화해야 한다.

미국의 위험 풍경

미국은 영국과 비슷한 특징을 공유한다. 원격 계좌 개설이 표준이 된 금융과 핀테크에서 디지털 플랫폼이 모든 것을 처리한다. 생체 인증의 확산은 위험을 한층 키운다. 가입 절차를 간소화하려고 얼굴 인식과 셀카 기반 확인을 널리 쓰지만, 딥페이크 영상이 실시간 얼굴 움직임을 흉내 내면 이런 시스템은 더 큰 압박을 받는다.

자동화 도구는 효율성과 사용자 경험을 향상시키고 있다. 그러나 새로운 취약성을 노출시키고 있다. 금융 기관들은 고객 편의와 강력한 사기 방지를 균형있게해야 한다. 과도한 제어는 합법적인 사용자를 밀어내고, 불충분한 보안은 비즈니스를 위험에 빠지게 할 수 있다.

금융을 넘어서의 플랫폼 노출

금융 서비스는 사기 논의에서 가장 많이 주목받지만, 유일한 위험 부문은 아니다. 호텔, 게임, 자동차, 온라인 시장 모두 신원 확인을 통해 남용, 연령 제한 위반, 그리고 결제 사기를 방지해야 한다.

신원 시스템이 침해되면 자금세탁이나 규제 서비스 접근 같은 더 넓은 범죄가 가능해진다. 은행 계좌를 만들기 위해 조작한 합성 신원을 여러 플랫폼에 재사용할 수 있어 피해가 증폭된다. 클라우드 기반 검증 서비스와 API 통합은 규정 준수를 단순화했지만 공격이 집중되는 표적도 만든다. 범죄자는 공통 확인 절차를 연구해 그에 맞게 딥페이크 결과물을 조정할 수 있다.

딥페이크 사기 대응

단일 솔루션이나 한 지점의 보호만으로 위험을 제거할 수 있다고 보는 접근은 효과가 없다. 전문가들은 문서 인증, 바이오메트릭 분석, 행동 분석, 그리고 이상 탐지를 적응형 위험 프레임워크 내에서 결합하는 것의 중요성을 강조한다.

AI의 발전 속도는 빠르므로, 지속적인 모델 훈련이 필수적이다. 정적 임계값과 일회적 배포 전략은 더 이상 적합하지 않다. 산업과 법 집행 기관 간의 협력도 중요하다. 디지털 사기 네트워크의 교차 국경적 특성을 고려하여야 한다.

소비자 인지도도 중요하다. 사기 전략에 대한 공개 보고와 투명성은 피해자 수를 줄일 수 있다. 영국의 손실은 단일한 비상이 아니라 경고 신호이다. 생성된 AI의 능력이 확장되고 비용이 줄어들면, 사기 전략도 계속 진화할 것이다. 원격 확인 시스템을 사용하는 조직들은 자신의 제어가 합성 미디어 조작에 대해 얼마나 강한지 평가해야 한다.

미국의 경우, 방어 시스템이 딥페이크 사기의 발전에 따라 얼마나 빠르게 성장할 수 있는지에 대한 질문이 남아 있다. 영국의 경험은 AI 기반 사기가 얼마나 빠르게 수십억 파운드의 손실로 이어질 수 있는지 보여주고 있다.

금융 서비스, 온라인 플랫폼, 신원 제공업체들은 이제 자신의 노출도를 다시 평가하고 있다. 사기 사례에서 시스템 회복탄력성으로 초점이 이동하고 있다. 딥페이크를 이용한 사기는 자동화, 규모, 그리고 교차 부문적 영향의 단계에 들어섰다. 대응도 이를 따라야 한다.