단 한 명의 운영자, 수천 건의 가짜 연애: AI 사기의 새로운 경제학

기술 기업들이 보안을 논할 때는 보통 데이터 유출, 취약한 인프라, 탈취된 자격 증명과 같은 외부 위협에 초점을 맞춘다. 하지만 사람 간의 상호작용을 중심으로 운영되는 비즈니스에서는 가장 심각한 위협 중 하나가 제품 자체, 즉 사용자가 실제 사람의 계정이라고 믿는 계정 안에 존재할 수 있다. 이는 특히 온라인 데이팅에서 중요한 문제다. 사람들은 이곳에서 개인정보를 공유하고, 대화에 시간을 들이며, 낯선 사람과 정서적 유대감을 형성한다. 사기로 인한 피해는 낯선 사람과의 정서적 유대감에 그치지 않는다. 사기는 사용자가 플랫폼과 그곳에서 만나는 사람들을 신뢰하려는 의지에도 영향을 미친다.

Sumsub가 2026년에 발표한 조사에 따르면, 영국 데이팅 앱 이용자 가운데 설문에 응답한 사람의 84%는 AI가 생성한 콘텐츠 때문에 잠재적인 상대를 신뢰하거나 성공적으로 데이트하기가 더 어려워졌다고 답했다. 2025년에는 이 비율이 64%였다. 또 61%는 가짜 프로필에 속은 경험이 있거나 그런 경험을 한 사람을 알고 있었다. 이러한 조사 결과는 사기 계정의 실제 유병률이 아니라 소비자의 인식을 반영한다. 그럼에도 낯선 사람과 기꺼이 교류하려는 사람들에 성공이 달린 업계가 어떤 문제에 직면했는지를 보여준다. AI는 가짜 상호작용을 더 저렴하게 만들어, 진정한 인간관계를 기반으로 하는 비즈니스에 근본적인 과제를 안기고 있다.

AI는 사기의 경제성을 어떻게 바꾸었나

로맨스 사기는 새로운 일이 아니다. 사기범들은 수십 년 동안 도용한 사진과 조작된 신원 정보, 미리 짜놓은 대화를 이용해 왔다. 달라진 것은 이런 사기 수법을 대규모로 운영하는 데 드는 비용과 복잡성이다. 과거에는 그럴듯한 프로필 수천 개를 유지하려면 상당한 인력이 필요했다. 사기범들은 대화를 관리하고, 개인적인 세부 정보를 기억하며, 일관된 신원을 유지하고, 오랜 기간 사용자에게 응답해야 했다. 생성형 AI는 이러한 운영 부담을 상당 부분 줄였다.

2026년 9월, Anthropic은 중국에 기반을 둔 한 스튜디오가 운영한 기만적인 데이팅 앱 20개 이상으로 이루어진 네트워크에 대한 조사 결과를 발표했다. 연구진은 2주 동안 AI 인물들이 최소 25,000명과 나눈 상호작용을 4,700건 넘게 확인했으며, 약 236만 건의 메시지가 생성된 사실을 파악했다. 이 운영 방식은 AI가 생성한 대화와 실제 사람이 필요한 상호작용을 맡는 인력을 결합했으며, 여기에는 실시간 영상 통화도 포함됐다. 앱은 서비스가 자동화되어 있다는 사실을 숨긴 채, 사용자에게 진짜 데이트 기회처럼 보이는 것을 제공했다. 이는 기존 데이팅 플랫폼 안에서 사기 프로필을 운영하는 방식이 아니라, 기만을 목적으로 설계된 앱들이었다. 그러나 이 사례는 AI가 그럴듯한 인간 간 상호작용을 만들어내는 데 필요한 자원을 얼마나 크게 줄일 수 있는지 보여준다.

정상적으로 운영되는 데이팅 플랫폼에도 이와 유사한 기술은 점점 더 큰 과제가 되고 있다. 생성된 사진, 자동 메시지, 도용된 신원 정보, 인증 시스템을 우회하도록 설계된 도구를 이용해 사기 계정을 만들고 유지할 수 있다. 이제 문제는 의심스러운 프로필을 찾아내는 데만 그치지 않는다. 플랫폼은 사기 행위의 생성 비용이 계속 낮아지는 가운데 점점 더 정교해지는 공격에 대응해야 한다. 이는 데이팅 사업을 운영하는 경제성도 바꾼다. 신뢰는 제품의 문제인 동시에 사업의 문제다.

사기는 콘텐츠 관리 비용 외에도 사업상 비용을 초래한다. 가짜 계정은 제품 분석에서 정상적인 것으로 보이는 가입, 좋아요, 대화를 만들어내며, 이는 추천 알고리즘과 A/B 테스트의 근간이 되는 신호를 왜곡할 수 있다. 상업적인 측면도 있다. 가짜 프로필을 계속 마주치는 사용자는 대화를 시작하지 않거나, 활동이 줄거나, 지출을 줄일 수 있다. 다만 그 영향의 규모는 플랫폼마다 다르므로 가정할 것이 아니라 측정해야 한다. 따라서 데이팅 서비스에서 사기 방지는 단순한 보안 기능이 아니라 제품 경제성의 일부다. AI로 합성 활동을 더 저렴하게 만들어낼 수 있게 되면서, 실제 상호작용과 인위적으로 만들어낸 상호작용을 구분하는 일이 핵심적인 제품 결정이 되고 있다.

경영진의 딜레마: 보안과 성장 사이

점점 정교해지는 사기에 대응하는 방법으로는 인증을 강화하는 것이 당연해 보인다. 하지만 실제로는 결정이 더 복잡하다. 온보딩 과정에 단계가 하나 추가될 때마다 마찰이 생긴다. 신분증 제출, 생체 인증 또는 반복 인증을 요구하면 특정 유형의 악용을 막을 수 있지만, 정상적인 사용자가 가입을 완료하지 못하게 할 수도 있다. 이는 사용자 확보의 경제성에 직접적인 영향을 미친다. 같은 마케팅 예산으로 가입을 완료하고 활성화된 사용자를 더 적게 확보한다면, 가입 완료자 1명당 확보 비용은 증가한다.

데이팅 앱에서는 그 영향이 온보딩 단계에만 머물지 않을 수 있다. 다른 여러 소비자 제품과 달리 데이팅 플랫폼은 지역 내 네트워크 밀도에 의존한다. 매칭 서비스가 제대로 작동하려면 특정 지역에 관련성이 있는 잠재적 상대가 충분히 활발하게 이용하고 있어야 한다. 따라서 정상적인 가입을 불필요하게 제한하는 인증 절차는 지역 네트워크의 성장을 늦추고, 매칭 기회를 줄이며, 이용자 유지율에도 영향을 미칠 수 있다. 반면 사기 계정을 활성 상태로 두면 인프라 사용량, 콘텐츠 관리 업무량, 추천 결과 왜곡, 사용자 신뢰 하락이라는 다른 비용이 발생한다. 보안이 지나치면 제품을 사용하기 어려워질 수 있다. 보안이 부족하면 제품을 신뢰할 수 없게 될 수 있다.

사기 방지는 고립된 기술 기능이 아니라 제품 및 사업 차원의 의사결정으로 다뤄야 한다. 위험 기반 접근법은 가입 단계의 기본 보호 조치와 행동 분석, 기기 신호, 콘텐츠 모니터링을 결합하고, 의심스러운 활동이 나타나면 한층 강화된 인증을 적용한다. 그렇더라도 인증 절차를 통과했다고 해서 사용자를 신뢰할 수 있는 것은 아니다. 실제로 존재한다는 사실을 확인해도 의도까지 입증되는 것은 아니기 때문이다. 효과는 탐지 성능, 오탐, 대응 속도, 인증 비용, 전환율, 유지율 등 여러 측면을 함께 고려해 평가해야 한다. 탐지 성능이 개선되더라도 실제 사용자를 다수 부당하게 제한한다면 사업 성과가 나아진 것이라고 볼 수 없다. 개인정보 보호도 고려해야 할 요소다. 대화를 분석하거나 추가적인 신원 정보를 수집하려면 투명성을 확보하고, 데이터 수집을 최소화하며, 접근을 엄격히 통제해야 한다. 중요한 것은 플랫폼이 사기 계정을 몇 개나 차단할 수 있느냐가 아니라, 정당한 사용자의 좋은 이용 경험을 지키면서 위험을 얼마나 효과적으로 줄이느냐이다.

인증을 넘어: 커뮤니티의 역할

AI가 생성한 대화가 점점 더 그럴듯해지면서 제품 차원의 질문이 떠오른다. 데이팅 플랫폼은 디지털 상호작용에만 집중해야 할까, 아니면 사람들이 현실 세계에서 관계를 발전시킬 기회를 더 많이 마련해야 할까? Fledge에서는 궁합 기반 매칭과 오프라인 행사 및 커뮤니티 경험을 결합해, 알고리즘으로 상대를 찾은 뒤 직접 만나는 과정이 자연스럽게 이어지는 모델을 모색하고 있다. 행사가 상대를 신뢰할 수 있다는 증거가 되거나 인증을 대체하는 것은 아니지만, 프로필과 채팅으로는 재현할 수 없는 사회적 맥락을 더해 준다. 우리는 이를 유망한 방향으로 보지만, AI 사기에 대한 단독 해결책으로 보지는 않는다.

AI는 사람들이 잘 맞는 상대를 찾고, 콘텐츠 관리와 조정을 지원하며, 의심스러운 행동을 탐지하도록 도와야 한다. 관계가 있는 것처럼 꾸며내서는 안 된다. 따라서 성공 여부는 활성 사용자 수, 매칭 건수, 전환율만으로 판단해서는 안 되며, 상호작용의 질과 진정성, 사용자가 실제로 원하는 결과도 측정 항목에 포함해야 한다. 이용자 참여가 활발해도 진정한 관계가 거의 형성되지 않는 플랫폼은 잘못된 목표를 최적화할 위험이 있다.

경쟁 우위로서의 신뢰

AI는 사기 행위자와 이에 맞서 방어하는 플랫폼 모두의 역량을 계속 강화할 것이며, 단 하나의 기술적 해결책만으로 대응할 가능성은 낮다. 보호를 위해서는 지속적인 대응 조정과 여러 단계의 탐지 체계, 사업상 상충관계에 대한 책임 있고 신중한 평가가 필요하다. 그러나 이 과제는 사이버 보안을 넘어선다. 신뢰는 제품의 품질과 네트워크 성장, 사용자 행동, 장기적인 매출에 영향을 미치며, 가짜 참여를 더 저렴하게 만들어 내는 일이 가능해질수록 진정성 있는 상호작용의 가치는 높아진다. 데이팅 서비스에서 신뢰는 안전 기능이 아니다. 다시 말해, 신뢰가 곧 제품이다. 차세대 플랫폼은 상호작용을 더 많이 만들어 내기보다 사용자가 그 상호작용이 진짜라고 믿을 수 있는 환경을 조성함으로써 경쟁력을 얻을 수 있다.