귀하의 사기 방어 스택은 인간 적을 위해 구축되었습니다

지난 30년 동안 CAPTCHA는 한 가지 일을 해왔습니다: 사람이 생각 없이 통과하는 테스트를 기계가 실패하도록 만드는 것이었습니다. 그 일은 끝났습니다. 연구원들은 Google의 reCAPTCHA v2 이미지 챌린지를 자동 솔버로 테스트, 100% 성공률을 보고했으며, 이전 연구에서 약 68%에서 71% 정도였던 것보다 상승했으며, 봇이 해결해야 하는 챌린지 수와 인간이 해결한 수 사이에 의미 있는 차이가 없음을 발견했습니다.

CAPTCHA를 인간에게는 쉬우면서 기계에게는 어려운 작업을 수행하도록 하는 전체 카테고리의 대체물로 생각한다면, 이제 제어 매개변수를 재검토할 시점입니다. AI 에이전트가 이미지 인식, 양식 작성 및 다단계 탐색 전반에 걸쳐 이 전제를 조용히 없애고 있으며, 대부분의 위험 관리 팀은 아직 이에 대응해 스택을 재구축하지 못했습니다.

잘못된 적에 맞춰 보정됨

성숙한 사기 방어 스택의 모든 규칙은 특정 적에 맞춰 조정되었습니다. 인간이 다른 인간을 가장하거나 봇 팜이 다수의 인간을 동시에 가장하는 경우가 그것입니다. 속도 검사는 사람이 현실적으로 할 수 있는 것보다 빠르게 계정을 개설하는 경우를 포착합니다. 디바이스 재사용 규칙은 여러 신원에 걸쳐 하드웨어를 재활용하는 경우를 잡아냅니다. 두 규칙 모두 인간의 한계, 즉 양식을 작성하는 데 걸리는 물리적 시간과 새로운 디바이스를 구입하는 실질적 비용을 기반으로 구축되었습니다.

이와 같은 제한은 인간인 우리에게는 적용되지만 AI 에이전트에게는 적용되지 않습니다. AI는 사람이 첫 번째 필드를 읽는 시간만에 양식을 완성할 수 있으며, 거의 비용이 들지 않는 수준으로 한 번 사용하고 폐기될 수 있습니다. 자동화된 트래픽이 이제 전체 웹 트래픽의 53% 이상을 차지합니다, 이는 1년 전 51%에서 상승한 수치이며, 인간 활동은 47%로 감소하고 계속 감소하고 있습니다. 봇 공격의 1/4 이상(27%)이 이제 API를 직접 공격하여 사용자 인터페이스를 완전히 우회하고 기계 속도로 작동하며, 금융 서비스만 2025년에 전체 봇 공격의 24%와 계정 탈취 사건의 46%를 차지했습니다. 인간 속도에 기반한 규칙은 전혀 속도가 없는 트래픽을 잡을 수 없었습니다.

균열이 드러나는 곳

업계 초기 본능은 AI를 더 많은 AI로 맞서는 것이었으며, 블랙박스 모델을 블랙박스 적에 대한 은탄환으로 취급했습니다. 이 본능 자체가 문제를 악화시킵니다. 자체 결정을 설명할 수 없는 사기 모델은 규제기관, 고객, 내부 감사인에게 그 결정이 이의 제기될 때 방어가 거의 불가능합니다, 그리고 불투명한 위협을 잡기 위해 훈련된 불투명한 모델은 문제를 해결하기보다 불투명성을 더욱 악화시킵니다. 여기서 방어 가능성은 철학적 미덕이 아니라 모델 거버넌스를 증명할 수 있어야 함을 의미합니다: 현재 어떤 모델이 운영 중인지, 이전 버전과 무엇이 달라졌는지, 모델이 어떤 데이터로 학습되었는지, 누가 왜 변경을 승인했는지 등을 보여줄 수 있어야 합니다. AI 모델 자체를 자동 업데이트하도록 설계된 시스템은 이러한 문서 흔적을 남기도록 설계되지 않았습니다.

선과 악을 구분하기 위해 필요한 또 다른 방어는 계층화된 인텔리전스: 충분히 독립적인 차원에서 신호 깊이를 확보하여 위조된 신원, 탈취된 계정 또는 머니 뮬이 숨을 곳을 잃게 만드는 것입니다. 각 추가 차원은 불일치, 공유 사기 인프라 또는 기록된 인물과 일치하지 않는 행동을 포착할 수 있는 별도의 기회를 제공합니다. 단일 신호가 전체 결정을 담당할 필요가 없습니다. 상황이 넓어질수록 고립된 모호한 단서도 사기 팀이 실제로 뒷받침할 수 있는 것이 됩니다.

그 동일한 원리는 결정이 사람에 의해 이루어지든 모델에 의해 이루어지든 적용됩니다. AI 위험 엔진은 제공된 데이터보다 똑똑하지 않습니다. 차원을 절반만 남기면 전체 그림의 절반만으로도 완전한 자신감을 가지고 추론하는 시스템이 되며, 이는 몇 밀리초 안에 거래를 점수화하는 머신러닝 모델이든, 손으로 사례를 분석하는 분석가이든 마찬가지입니다. 의사결정이 사람 없이 에이전트 시스템에 의해 이루어질수록 더 정확해집니다. 컨텍스트 깊이는 단순히 에이전트가 사기를 저지르는 방식을 포착하는 것이 아니라, 에이전트의 모든 결정에 대한 신뢰 전제조건이 됩니다.

그 컨텍스트를 추론 과정이 가독성 있게 유지되는 모델에 공급하면, 단일 블랙박스 시스템이 하나의 신호만으로 의도를 추측하는 것이 아니라, 결정은 단순히 정확함을 넘어 방어 가능해집니다. 이러한 구분은 AI 에이전트에 대해 인간 사기 조직보다 더 중요합니다. 에이전트는 다른 유형의 흔적을 남기기 때문입니다. 행동 생체인식이 포착하도록 설계된 작은 실수나 주저함을 보이지 않으며, 대신 발자국을 남깁니다; 자격 증명 사용 시기와 디바이스 이력의 일관성 등은 거래 앞에 있는 순간보다 더 오래 지속될 수 있습니다. 원격 액세스 도구를 배경에서 조용히 실행하면서 다른 사람의 자격 증명이 사용됩니다. 이러한 모든 것은 얼굴을 읽는 것을 필요로 하지 않으며, 넓은 신호 집합에 대한 전체 세션 세부 정보를 읽을 수 있는 능력만 있으면 됩니다.

더 이상 존재하지 않는 인간의 징후

재조정이 가장 시급한 분야는 신원 확인입니다. 사기 팀은 비정상적인 눈 깜빡임 속도, 입술 움직임 불일치, 사진의 질감 인공물 등 인간의 징후를 포착하는 전체 분야를 구축해 왔습니다. 딥페이크 도구가 이러한 대부분의 격차를 메우면서, 범죄자는 더 이상 직접 도구를 만들 필요가 없어졌습니다.

Interpol의 글로벌 금융 사기 위협 평가, 3월에 발표된 이 보고서는 2025년에 금융 사기가 전 세계 경제에서 4,420억 달러 이상을 빨아들였으며, AI가 강화된 사기가 전통 방식보다 약 4.5배 더 수익성이 높다고 밝혔습니다. 보고서는 다크웹 마켓플레이스에서 합성 신원 키트를 판매하는 “딥페이크-서비스” 운영을 식별했으며, 여기에는 AI가 생성한 비디오 아바타, 음성 클론, 생체 데이터가 포함되어 있어 공격자가 소셜 미디어 게시물에서 추출한 10초짜리 오디오만으로도 설득력 있는 디지털 클론을 만들 수 있게 합니다.

신뢰할 수 있는 신호는 절대 신분증이 아니었습니다. 연속성: 실제 신원의 디지털 과거는 수년간의 일반 계정 활동과 행동 패턴을 통해 축적되며, 합성 신원이나 이를 대신하는 에이전트는 그런 역사를 만들 시간이 없습니다. 신분증만을 찾는 시스템은 계속 실패할 것입니다. 역사가 누락된 시스템은 위조하기 더 어려운 목표를 갖게 됩니다.

다른 적을 위한 재구성

이것이 공황을 일으키라는 주장도 아니며, 인간 사기가 사라졌다는 주장도 아닙니다. 사기는 여전히 존재합니다. 이는 인간의 한계, 속도, 징후에만 맞춰진 스택이 AI 에이전트가 활동하는 영역에 구조적인 사각지대를 가지고 있으며, 그 사각지대는 스스로 해결되지 않는다는 주장입니다. 각각의 검증을 단독으로 테스트하면 여전히 통과될 수 있습니다. 충분히 독립적인 차원에서 이 검증들을 함께 살펴볼 때만, 고립된 검증이 놓치도록 설계된 패턴이 드러납니다.

에이전시 AI 시스템은 이제 정찰부터 몸값 요구까지 전체 사기 캠페인을 자율적으로 계획하고 실행할 수 있으며, 대부분 인간 운영자가 개입하지 않습니다. 해결책은 기존 스택에 규칙을 억지로 추가하는 것이 아니라, 전제를 재구축하는 것입니다. 이제 테스트는 무언가가 인간 사기꾼처럼 보이는가가 아니라, 그 뒤에 진정한 인간이 존재했는가 여부가 됩니다.