AI는 실제 사람을 찾는 데 도움을 주지만, 그들을 대체하지는 못합니다

가짜 이미지는 가장 예리한 눈조차 속일 수 있지만, 플랫폼이 보는 가짜 행동은 속겨서는 안 됩니다.

지난 20년 동안 온라인 데이팅 산업은 사용자 안전을 간단한 체크리스트로 가르쳐 왔습니다. 우리는 사용자가 사진을 면밀히 검토하고, 상대의 이야기가 일관되는지 확인하며, 만나기 전에 영상 통화를 요구하도록 조언했습니다. 한때 디지털 안전의 금본위였던 그 지침은 오늘날 완전히 구식이 되었습니다.결정적인 증거는 2025년 2월 iProov 연구, 선도적인 바이오메트릭 공급업체입니다. 연구원들은 영국과 미국의 2,000명을 대상으로 이미지와 동영상을 모두 사용해 다양한 항목을 실제인지 합성인지 라벨링하도록 요청했습니다. 결과는 놀라웠습니다: 단 두 명만 오류 없이 했습니다. 이는 전체의 0.1%에 불과하며, 나머지 1,998명은 최소 하나의 실수를 했다는 의미입니다. 높은 신뢰도와 높은 오류율이 결합된 것은 소비자에게 위험한 조합이며, 사기범들은 이를 악용할 준비가 되어 있습니다.에 따르면 Entrust 2026 신원 사기 보고서, 딥페이크는 이제 생체인식 사기 시도 중 5분의 1을 차지합니다. 딥페이크 셀카는 2025년에 58% 상승했으며, 주입 공격은 전년 대비 40% 증가했습니다. 일반 사용자가 고도로 발전된 생성 AI 모델의 시각 인식을 능가하도록 기대하는 것은 책임을 포기하는 것이며, 위험을 플랫폼에서 고객으로 직접 전가하는 것입니다.

사기는 이제 가짜 사진을 찾는 것만이 아니다

현실은 현재 탐지 도구가 한 번에 하나의 객체에 대해 객체 수준 테스트를 수행하기 때문에 실패하고 있다는 점입니다. 하나의 테스트는 특정 이미지가 AI에 의해 생성되었는지를 묻고, 다른 테스트는 문서가 위조되었는지를, 또 다른 테스트는 메시지의 텍스트가 기계에 의해 작성되었는지를 묻습니다. 문제는 이러한 테스트 각각이 빠르게 약화된다는 것입니다. 생성 모델의 지속적인 발전으로 출력 품질이 계속 향상됨에 따라 이전의 응답과 탐지 방법은 거의 하룻밤 사이에 구식이 되거나 시대에 뒤처집니다.

훨씬 더 나은 접근 방식은 단일 신호의 외형을 다수 신호의 결합으로 대체합니다. 우리의 방법은 사용자의 존재의 다양한 차원 간 관계에 점수를 매깁니다. 한 신호 차원은 장치가 시스템에 어떻게 보이는가이며, 다른 차원은 사용자의 세션이 어디에서 오는가, 또 다른 차원은 계정이 실제로 어떻게 행동하는가입니다. 시스템이 잠재적 사기의 지표를 표시하면 모두 인간 검토로 이어집니다.

유엔 마약 및 범죄 사무소는 초국가 조직범죄 위협 평가 2026년 동남아시아 보고서에서, 2025년 온라인 사기 손실을 보고된 지역만 해도 883억 달러에서 1,141억 달러 사이로 추정했습니다. 이 규모의 산업 사기는 속도와 규모에 의존합니다. 단일 정보는 쉽게 위조될 수 있지만, 모두를 일관되게 위조하는 것은 — 플랫폼에 의해 지속적으로 차단되는 다수 계정을 가로질러 — 유지하기에 너무 큰 부담이 됩니다. 우리가 도입하는 모든 마찰 층은 계정당 사기 비즈니스 비용을 상승시켜 결국 이익률이 0이 될 때까지 증가합니다.

여기서 AI가 진정으로 가치를 발휘합니다. 위조 탐지는 새로운 기술로 개선되었지만, 사기를 나타내는 동시 요인을 식별하는 능력이 향상되어 조기 개입으로 이어지는 것은 사용자에게 훨씬 더 큰 혜택을 줍니다. 사용자의 지표가 일치하지 않을 때, 그들의 진정한 의도가 드러납니다. 정직한 회원, 사기꾼, 그리고 다른 목적을 가진 방문자 모두 동일한 사진과 거의 동일한 첫 인사말을 공유할 수 있지만, 그들의 결합된 지표는 차이를 보이며 완전히 다른 이야기를 전합니다. 사람들이 답변하는 방식, 응답 속도, 대화를 확대하는 방식, 질문 내용, 그리고 포기되는 대화까지 모두 하나의 그림을 그립니다. 신원은 완벽하게 생성된 거짓일 수 있지만, 행동은 항상 악의적인 의도를 드러냅니다.

정보 비대칭: 플랫폼은 사용자가 알 수 없는 정보를 알고 있다

연방거래위원회는 2026년에 2025년 로맨스 사기 손실이 22% 상승 2024년 대비 상승했으며, 약 15억 달러에 달했습니다. 연락 방식을 확인한 사람 중 약 60%가 말했다 그들의 최초 연락은 소셜 미디어 플랫폼을 통해 이루어졌습니다.

우리 산업에는 거대한 정보 격차가 존재합니다. 플랫폼은 동일한 신호 범주를 보지만, 예를 들어 로그인 국가와 계정 연령도 거의 확실히 볼 수 있습니다. 모든 회원이 보는 것은 미소와 프로필에서 무언가를 교묘히 섞어 만든 정교한 문단뿐입니다. 플랫폼은 이 숨겨진 데이터를 활용해 더 안전한 환경을 조성하거나, 이를 공개해 회원이 그에 맞게 행동하도록 할 권한을 가지고 있습니다. 안타깝게도 대부분의 산업은 이 두 가지를 모두 수행하지 않습니다.

산업의 무활동은 종종 사용자 프라이버시와 관련된 복잡한 트레이드오프와 관련이 있습니다. 이 방정식의 비용이 많이 드는 절반은 행동을 취하는 것입니다. 신뢰를 구축하는 두 가지 경로가 있습니다: 느린 경로는 평판이며, 빠른 경로는 검증입니다. 검증은 마찰을 생성합니다. 산업은 압도적으로 속도, 규모, 낮은 마찰을 원하며, 이는 지속적인 검증 부족을 설명합니다.

하지만 해결책이 등장하고 있습니다. 2024년 8월 arXiv에 게재된 사전 인쇄본은 “인격 증명“을 제안했습니다. OpenAI, Microsoft, MIT, Oxford, Harvard와 같은 기관의 32명 저자는 개인 정보를 보호하면서도 사용자가 자신의 기본 신원을 밝히지 않고도 실제 사람임을 서비스에 증명할 수 있는 인증 방식을 제안했습니다. 그들의 주장은 CAPTCHA가 충분하지 않으며, 이상 탐지는 능력 있는 AI에 대해 빠르게 약화되고 있다는 것입니다. 그 말은 옳습니다. 데이트는 이 약화의 결과가 가장 크게 나타나는 분야 중 하나인데, 그 이유는 판매되는 핵심 제품이 바로 신뢰 자체이기 때문입니다.

더 나은 커뮤니티 표준 구축

가능한 범죄 행위를 식별하는 데 도움이 되는 동일한 신호는 다른 유형의 악행을 식별하는 데에도 활용될 수 있습니다. 의도 파악은 단순히 사기를 방지하는 것을 훨씬 넘어섭니다. 웹사이트상의 모든 악행자는 범죄자가 아닙니다. 불쾌한 사용자가 법을 위반하고 있지 않을 수도 있고, 관계가 거래로 취급된다고 해서 사기가 되는 것은 아닙니다. 사람을 경멸하는 것이 연방 기소로 이어지지는 않습니다. 그러나 이러한 행동은 커뮤니티를 심각하게 악화시킵니다. 더 나아가, 이러한 행동은 회원 신고에만 의존하는 시스템에서는 너무 자주 보이지 않습니다.

업계는 전통적으로 불법성을 기준으로 선을 그어 왔습니다: 사기와 미성년자를 선별하고, 법이 엄격히 요구하는 것을 제거하며, 나머지는 성인 간의 합의된 문제로 간주합니다. 저는 AI를 사용해 거래 행동을 식별하고 적극적으로 차단하는 다른 데이트 사이트를 알지 못합니다. 우리의 Stop@Send 기능은 발신자가 메시지를 보내는 순간 해당 메시지를 평가합니다. 이는 정적 키워드 목록과 단순히 비교하는 것이 아니라 더 깊은 의미를 찾습니다. 대부분의 경우, 응답은 발신자에게 전달되는 설명으로, 메시지가 커뮤니티에 부적절한 이유를 정확히 알려줍니다.

물론 이것은 무료가 아닙니다. 회원 간 대화를 방해하면 마찰이 발생하는데, 이는 우리가 적극적으로 감수하기로 선택한 비용입니다. 그러나 우리의 기준은 시행되지 않는 커뮤니티 가이드라인 페이지에 게시된 내용이 아니라, 실제로 우리 플랫폼에서 허용되는 행동에 의해 가장 잘 정립됩니다. 악행자를 불편하게 만들지 않는 플랫폼은 스스로를 커뮤니티라고 부를 자격이 없습니다.

업계에 대한 도전

현재 시장은 AI가 사람을 대체하도록 경쟁하고 있습니다: AI 동반자, AI가 만든 프로필, 그리고 플러팅 에이전트의 등장이 그 예입니다. 저는 이 방향이 막다른 길이라고 확신합니다. 이는 오직 참여도만을 최적화하고 그 외에는 전혀 아무것도 제공하지 못합니다. 우리의 접근 방식은 근본적으로 다릅니다. 우리는 AI를 활용해 악성 사용자를 제거하고, 회원들이 서로에게 책임을 지게 하며, 의미 있고 현실적인 관계로 이어질 가능성이 높은 방식으로 서로를 대하도록 돕고 있습니다.

피해야 할 위험 신호 목록은 그 가치를 잃었습니다. 사기꾼을 식별하던 신호는 바로 생성 모델이 제거하도록 학습한 정확한 특징이며, 이는 우리가 끊임없이 얽혀 있는 무기 경쟁을 만들고 있습니다. 첫 번째 규칙—즉, 직접 만나 보지 않은 사람에게는 절대 돈을 보내지 말라는 규칙—을 제외하면, 핵심 질문은 더 이상 사진에 관한 것이 아닙니다. 그것은 플랫폼과, 그들이 사용자에게 알리지 않은 정보를 가지고 무엇을 하는가에 관한 것입니다.

그 도전에 대해 좋은 대응을 보이는 플랫폼은 신뢰를 위해 적극적으로 설계하고 있습니다. 반면 대응하지 못하는 플랫폼은 회원들에게 자신을 보호하기 위해 0.1%의 성공률로 더 많은 작업을 요구하고 있습니다.

저는 이 도전을 제 플랫폼을 포함한 모든 플랫폼에 제시했습니다. 답변은 정직하고 완전하기를 기대합니다. 이 격차를 메우는 기술은 현재 존재합니다. 사기가 지속되는 이유는 이를 차단하면 손쉬운 가입이라는 거대한 관문을 통한 막대한 성장을 포기해야 하기 때문입니다. 이는 기술적 한계라기보다 비즈니스 결정입니다. 그리고 올바르게 판단하는 플랫폼은 이 논의에서 가장 중요한 자산, 즉 회원들의 신뢰를 보유하고 있습니다.