은행은 AI 음성 사기를 대비했는가?

AI 생성 음성은 사기 경제학을 바꾸었다. 한때 숙련된 가면, 설득력 있는 스크립트 또는 손상된 전화 번호가 필요한 것을 이제는 인간과 거의 같은 소리를 내는 도구로 대규모로 시도할 수 있다.

그리고 더 걱정스러운 것은, 그들이 금융 부문을 명확하게 노리고 있다는 것이다. 2024년 초, 엔지니어링 회사 Arup의 재무 담당자가 회사 최고재무책임자(CFO)와 여러 동료들과 영상 통화를 했다. 목소리는 친숙하고, 얼굴은 알아볼 수 있었고, 요청은 기본적인 검토를 통과할 수 있을 정도로 합理적이었다. 통화가 끝나면 2,500만 달러의 송금을 승인했다. 그녀는 믿었던 사람들이 실제로는 AI 생성된 디프페이크였다고 나중에 보고되었다.

금융 기관에서는 내부 결제 승인에 대한 위험만이 아니라 고객 인증, 콜 센터 에스컬레이션, 사기 검사, 계정 복구 과정에서 신뢰의 붕괴가 발생할 수 있다.

사기꾼들은 수십 년 동안 전화 통화의 상대적인 익명성을 이용하여 사기를 저질러왔다. 그러나 AI로 인해 노력은 이제 자잘한 것이 되었고 결과는 훨씬 더 설득력 있다. 은행과 핀테크 회사에서는 이 수렴이 미지의 위험 지도를 초래하고 있다.

더욱 불편한 현실은 이것이다. 공격자가 시스템의 취약점을 찾고 있을 때, 금융 기관이 고객 지원을 현대화하기 위해 배치하는 AI 인프라는 사기를 저지르는 것을 더 쉽게 만들고 있다.

소리처럼 들리는 전화

AI 이전에 음성 사기는 상대적으로 쉽게 식별할 수 있었다. 로보콜은 평면이고 스크립트를 따랐으며, 피싱 시도는 인간 운영자가 콜 시트를 따랐다. 대부분의 경우, 사기꾼이 사회 공학을 시도하는 품질에 따라 규모가 제한되었다. 충분한 훈련과 일부 常識으로 직원은 일반적으로 징조를 식별할 수 있었다.

AI는 그 것을 바꾸었다. 충분한 프롬프트로 AI는 매우 인간처럼 들릴 수 있다. 감정과 결점이 포함되어 있다. 더 나쁜 것은, 목소리를 복사할 수 있는 AI 도구가 상업 플랫폼과 오픈 소스 저장소에서 쉽게 이용할 수 있다.

McAfee Labs는 3초의 오디오가 AI 도구가 85%의 정확도로 목소리 클론을 생성하는 데 충분하다고发现했다. 10초의 녹음은 그 수치를 95% 이상으로 높일 수 있다. 소스 자료는 모든 곳에 있다: 소셜 미디어 게시, 보이스메일 인사, 회의 녹음, 이익 실적 호출, LinkedIn 비디오.

실시간 음성 변환 도구는 2024년에 널리 이용 가능해졌다. 즉, 공격자는 더 이상 사전 녹음이 필요하지 않다. 그들은 단순히 마이크로폰으로 말하면, 출력은 그들이 가장하려고 하는 사람처럼 들릴 것이다.

Arup 사건은 교훈이다: 재무 담당자는 의심을 가졌지만, 통화에 익숙한 목소리와 얼굴이 있었기 때문에 신뢰했다. 그러나 홍콩 수사관은 별도의 작전이 금융 관리자의 목소리를 복제하여 1,850만 달러의 암호화폐 사기를 벌였다고 발견했다.

익숙한 목소리는 신뢰할 수 있는 목소리라는 것이 밝혀졌다. 그러나 AI는 그 가정을 위험한 것으로 만들었다.

인증 실패는 사기 기회가 된다

금융 기관은 이미 외부 위협에 대응하고 있다. 기업은 AI에 대한 거버넌스 및 컴플라이언스 도구에 대한 지출을 2025년 22억 달러에서 2035년 95억 달러로 증가시킬 계획이다. 이는 시장에서 이를 얼마나 심각하게 생각하는지 보여준다.

그러나 더 중요한 위험은 외부에서 발생하는 것이 아니다. 은행과 핀테크 회사들은 고객 지원 스택에 AI를 계층화하고 있다. AI 지원 IVR 시스템, 음성 생체 인증, 에이전트가 없는 콜 플로우를 구축하고 있다. 이러한 노력은 고객 경험을 개선하고 인간 노동을 줄이는 것을 목표로 한다. 그러나 이러한 시스템이 실패하면 공격자들이 쉽게利用할 수 있는 취약점을 남긴다.

루팅 오류, 에스컬레이션 사이에서 손실된 컨텍스트, 예측할 수 없는 인증 시스템은 고객 경험 문제로 보인다. 그러나 이러한 CX 문제는 더 나쁜 것으로 변할 수 있다. 음성 생체 인증으로 잠긴 고객은 거의 보고하지 않는다. 대신, 콜백하여 인간 에이전트와 통화하고, 그들이 구축한 프로토콜을 우회하도록 압력을 가할 가능성이 높다.

더 큰 문제는 공격자가 고객을 가장할 수 있다는 것이다. 금융 기관은 이미 이를 알고 있다. 실제로, 91%의 미국 은행이 AI 클로닝 위험을 고려하여 음성 생체 인증 전략을 재고하고 있다.

재고는 이러한 문제를 해결하지 못한다. 음성 인증이 정상 고객에게 정기적으로 실패하는 기관은 이미 공격자가 시스템을 이용할 수 있는 약점을 만들었다. 공격자는 기술적인 취약점을 찾을 필요가 없다. 고객 여정의 마찰이 그들에게 길을 제공한다.

회사는 보안 스택을 변경할 필요가 없다

AI 생성된 합성 음성을 감지할 수 있는 도구는 개선되고 있다. 그러나 공격자가 은행의 시스템을 취약점으로 조사하고 있다. 그들은 단일 취약점을 찾고 있지 않다. 그들은 시스템이 서로를 놓치고 실수하는 영역을 찾고 있다. 그들은 인증 시스템이 신호를 명확하게 전달하지 못하는 영역을 찾고 있다. 周辺의検出은 그 간격을 닫을 수 없다.

도움이 될 수 있는 것은 음성 인프라를 다루는 방식을 재고하는 것이다. 소프트웨어 스택의 다른 부분과 마찬가지로 음성 인프라는 周辺防御와 동일한 수준의 검토를 필요로 한다.

이러한 보안 입장은 실제로 음성 시스템이 생산에서 직면할 조건에 대한 기능 및 회복력 테스트를 필요로 한다: 낮은 음질, 다른 억양 및 배경 소음, 에지 케이스 에스컬레이션, 인증 경계 시나리오에서 합법적인 호출자는 시스템의 수용 임계값 바로 외부에 있다.

答案은 일회적인 인증 과정이다. 은행은 IVR 라우팅 및 음성 생체 인증, 에스컬레이션, 전송 및 폴백 경로를 포함한 전체 음성 여정을 지속적으로 검증해야 한다. 음성 시스템이 얼마나 자주 업데이트되든, 사기 전략은 그들이遭遇하는 방어에 대한 약점을 찾기 위해 자연스럽게 진화할 것이다. 배포 시에 검증을 통과하는 시스템은 실제 조건에서 여전히 안전한지 확인하기 위해 빈번하게 테스트되어야 한다.

규모에 대한 지속적인 테스트는 예산 고려를 수반한다. 또한 빠르게 움직이는 것(경쟁력을 유지하기 위해 새로운 기능을 배포하는 것)과 시스템을 고객과 실제 사기 시도에 노출하기 전에 철저히 검증하는 것 사이에 내재된 긴장이 있다.

그 긴장을 깨끗이 해결하는 것은 어렵다. 그러나 그것은 검증을 건너뛰는 비용을 명확히 한다: 시스템의 실패는 고객이 이미 찾아낸 약점이다.

더 나은 고객 여정은 사기 방어가 된다

위에서 설명한 외부 및 내부 위험은 별개의 문제가 아니다. 고객 여정의 마찰은 사회 공학을 이용하는 행동적 간격을 생성한다.

그것은 해결 가능한 문제지만, 기관이 고객 경험의 불량이 고객 유지 또는 수입을 넘어서 영향을 미칠 수 있다는 것을 인식해야 한다. 은행은 AI 음성 사기를 단지 감지 문제로만 다루지 말고, 또한 자신의 음성 여정 내부의 모호성, 마찰 및 실패 지점을 제거해야 한다. 익숙한 목소리가 더 이상 기본적으로 신뢰할 수 없는 시대에, 여정 자체의 신뢰성이 보안 모델의 일부가 된다.