영국의 9.4억 파운드의 딥페이크 사기 손실이 미국에 보내는 신호

영국에서 새로出现하는 통계에 따르면 딥페이크를 이용한 사기는 간헐적인 실험을 넘어서서 지속적인 산업 규모의 범죄 활동으로 전환되었다. 글로벌 안티 스캠 얼라이언스와 가디언의 보고에 따르면, 영국의 소비자들은 2025년 11월까지 9개월 동안 AI 기반 사기에 약 9.4억 파운드를 잃었다. 이는 디지털 사기의 규모와 복잡성이 급격히 증가하고 있음을 나타낸다.

헤드라인은 종종 정치적 부정확성 또는 합성 비디오에 초점을 맞추지만, 더 중요한 변화는 금융 서비스, 디지털 身分 시스템 및 온라인 플랫폼에서 발생하고 있다. 딥페이크 기술은 과거 연구실과 인터넷 커뮤니티에 국한되었지만,現在는 사기 도구의 생태계에 통합되었다. 범죄자들은 얼굴 교환 소프트웨어, AI 생성 음성 클로닝, 합성 身分 생성 및 문서 위조를 결합하여 전통적인 검증 제어를 우회할 수 있는 공격을 만들 수 있다.

영국의 9.4억 파운드의 손실은 AI 기반 사기가 어떻게 빠르게 진화하고 있는지 보여주는 명확한 신호이다. 더 넓은 세계적인 데이터도 이 추세를 뒷받침한다. 미국의 연방거래위원회(FTC)는 2023년에 소비자들이 사기에 약 10억 달러를 잃었다고 보고했으며, 이는 사기 손실이 처음으로 이 수준에 도달한 것이다. 금융 기관들은 이미 이러한 영향을 느끼고 있다. 2023년에 FBI 인터넷 범죄 신고 센터는 사이버 범죄로 인한 총 손실이 약 12.5억 달러에 달했다고 보고했으며, 비즈니스 이메일 컴프롬과 투자 사기가 전체 손실의 상당한 부분을 차지했다.

AI 기반 사기의 금융적 비용

금융 기관들은 이미 이러한 영향을 느끼고 있다. 2023년에 FBI 인터넷 범죄 신고 센터는 사이버 범죄로 인한 총 손실이 약 12.5억 달러에 달했다고 보고했으며, 비즈니스 이메일 컴프롬과 투자 사기가 전체 손실의 상당한 부분을 차지했다. 생성된 AI는 사기자们이 더 쉽게 합성 身分을 만들 수 있게 해주므로, 이러한 범주는 합성 미디어 기법과 더 자주 교차할 가능성이 있다.

전 세계적인 사기 풍경도 압력을 받고 있다. 나스닥은 2023년에 사기와 은행 사기에 의한 예상 손실이 485억 달러에 달한다고 보고했다. 이는 모두 딥페이크와 관련이 있지는 않지만, 분석가들은 생성된 AI가 범죄자들의 효율성과 신뢰성을 높이는 lực으로 작용하고 있다고 지적한다.

단일 사기에서 대규모 작전으로

딥페이크 사기는 2017년에 처음 등장한 이후 여러 단계를 거치며 발전해왔다. 초기 사례들은 종종 단일의 사기 시도였다. 2019년에 범죄자들은 AI 생성 음성 클로닝을 이용하여 CEO의 목소리를 모방하고, 영국의 에너지 회사에서 22만 유로를 불법으로 이전했다. 현재의 波는 더 체계적이다. 범죄자들은 합성 身分 키트를 패키지화하여 AI 생성 운전면허증, 조작된 바이오메트릭 셀카, 그리고 일치하는 데이터 레코드를 포함한다.

오픈 소스 생성적 적대적 네트워크와 소비자급 얼굴 교환 도구는 기술적 장벽을 낮추었다. 전문가의 전문 지식이 필요한 것이 아니라, 온라인 시장과 암호화 메시지 플랫폼을 통해 조립할 수 있다.

미국의 위험 풍경

미국은 영국과 비슷한 특징을 공유한다. 원격 계좌 개설이 표준이 된 금융과 핀테크에서 디지털 플랫폼이 모든 것을 처리한다. 생체 인증의 성장은 또 다른 차원을 추가하여 얼굴 인식과 셀카 기반 확인 도구가 널리 사용되고 있다.

자동화 도구는 효율성과 사용자 경험을 향상시키고 있다. 그러나 새로운 취약성을 노출시키고 있다. 금융 기관들은 고객 편의와 강력한 사기 방지를 균형있게해야 한다. 과도한 제어는 합법적인 사용자를 밀어내고, 불충분한 보안은 비즈니스를 위험에 빠지게 할 수 있다.

금융을 넘어서의 플랫폼 노출

금융 서비스는 사기 논의에서 가장 많이 주목받지만, 유일한 위험 부문은 아니다. 호텔, 게임, 자동차, 온라인 시장 모두 身分 확인을 통해 남용, 연령 제한 위반, 그리고 결제 사기를 방지해야 한다.

위험은 금융을 넘어서 있다. 身分 시스템이 타격을 받으면 더广泛한 범죄 활동을 가능하게 할 수 있다. 합성 身分은 여러 플랫폼에서 사용될 수 있으므로, 잠재적인 피해를 증대시킨다.

딥페이크 사기 대응

단일 해결책이나 보호점만으로는 위험을 완전히 없애는 것은 불가능하다. 전문가들은 문서 인증, 바이오메트릭 분석, 행동 분석, 그리고 이상 탐지를 적응형 위험 프레임워크 내에서 결합하는 것의 중요성을 강조한다.

AI의 발전 속도는 빠르므로, 지속적인 모델 훈련이 필수적이다. 정적 임계값과 일회적 배포 전략은 더 이상 적합하지 않다. 산업과 법 집행 기관 간의 협력도 중요하다. 디지털 사기 네트워크의 교차 국경적 특성을 고려하여야 한다.

소비자 인지도도 중요하다. 사기 전략에 대한 공개 보고와 투명성은 피해자 수를 줄일 수 있다. 영국의 손실은 단일한 비상이 아니라 경고 신호이다. 생성된 AI의 능력이 확장되고 비용이 줄어들면, 사기 전략도 계속 진화할 것이다. 원격 확인 시스템을 사용하는 조직들은 자신의 제어가 합성 미디어 조작에 대해 얼마나 강한지 평가해야 한다.

미국의 경우, 방어 시스템이 딥페이크 사기의 발전에 따라 얼마나 빠르게 성장할 수 있는지에 대한 질문이 남아 있다. 영국의 경험은 AI 기반 사기가 얼마나 빠르게 수십억 파운드의 손실로 이어질 수 있는지 보여주고 있다.

금융 서비스, 온라인 플랫폼, 身分 제공업체들은 자신의 노출도를 재評価하고 있다. 사기 사례에서 시스템적 강건성으로焦点이 이동하고 있다. 딥페이크를 이용한 사기는 자동화, 규모, 그리고 교차 부문적 영향의 단계에 들어섰다. 대응도 이를 따라야 한다.