オペレーター1人で何千もの偽りの恋愛を操る：AI詐欺の新たな経済学

テクノロジー企業がセキュリティについて語るとき、通常はデータ侵害、脆弱なインフラ、認証情報の盗難といった外部の脅威に注目します。しかし、人と人との交流を基盤とするビジネスでは、最も深刻な脅威の一つが製品そのものの内部、つまりユーザーが実在する人物のものだと思っているアカウントに潜んでいることがあります。これは、個人情報を共有し、会話に時間を費やし、見知らぬ人と感情的なつながりを築くオンラインデーティングで、特に大きな問題です。詐欺の影響は、見知らぬ人との感情的なつながりにとどまりません。プラットフォームや、そこで出会う人々をユーザーが信頼しようとする気持ちにも影響します。

2026年にSumsubが発表した調査によると、調査対象となった英国のデーティングアプリ利用者の84%が、AI生成コンテンツによって、相性のよい相手を信頼したり、うまくデートしたりすることが難しくなったと回答しました。2025年の同じ回答は64%でした。また、61%は、自分自身が偽プロフィールにだまされた経験があるか、そうした経験をした人を知っていました。これらの結果が示しているのは、詐欺アカウントの実際の発生率ではなく、消費者の認識です。それでも、見知らぬ人と交流しようとする人々の意欲に成否がかかる業界が抱える問題を浮き彫りにしています。AIによって偽のやり取りを低コストで作れるようになり、それは本物の人間同士の交流を基盤とするビジネスにとって、根本的な課題となっています。

AIはいかに詐欺の経済性を変えたか

恋愛詐欺は新しいものではありません。詐欺師は何十年にもわたり、盗用した写真、偽造した身元、台本に沿った会話を使ってきました。変わったのは、こうした詐欺を大規模に運営するコストと複雑さです。かつて、何千もの信頼できそうなプロフィールを維持するには多くの人手が必要で、詐欺師は会話を管理し、個人情報を覚え、一貫した人物像を保ちながら、長期間にわたってユーザーに応答しなければなりませんでした。生成AIは、こうした運用上の負担の多くを軽減しました。

2026年9月、Anthropicは調査結果を発表し、中国を拠点とするスタジオが運営する、20を超える欺瞞的なデーティングアプリのネットワークを明らかにしました。2週間の調査期間中、研究者らは、AIペルソナが少なくとも25,000人と交わした4,700件を超えるやり取りを確認し、約236万件のメッセージが生成されたことを突き止めました。この運営では、AIが生成した会話に加え、ライブビデオ通話など、実在の人物による対応が必要なやり取りを人間のスタッフが担当していました。アプリはサービスが自動化されていることを隠し、ユーザーには本物のデートの機会に見えるものを提示していました。これは、既存のデーティングプラットフォーム内で不正なプロフィールが運用されていたのではなく、欺瞞を目的に設計されたアプリでした。しかし、この事例は、説得力のある人間同士のやり取りを作り出すために必要なリソースを、AIがいかに大幅に削減できるかを示しています。

正規のデーティングプラットフォームにとっても、同様のテクノロジーは深刻化する課題を生み出しています。生成された写真、自動メッセージ、盗用した身元情報、認証システムの回避を目的とするツールは、不正アカウントの作成や維持に利用される可能性があります。問題はもはや、疑わしいプロフィールを見分けることだけではありません。プラットフォームは、攻撃の高度化が進む一方で、その実行コストが下がり続ける状況に対処しなければなりません。そして、それはデーティング事業の運営にかかる経済性を変えます。信頼は、製品の課題であると同時に、事業上の課題でもあります。

詐欺がもたらす事業コストは、コンテンツの監視にとどまりません。偽アカウントは、プロダクト分析では正規のものに見える登録、いいね、会話を生み出し、レコメンドアルゴリズムやA/Bテストの判断材料となるシグナルをゆがめる可能性があります。商業面への影響もあります。偽プロフィールとの遭遇が続くユーザーは、会話を始めなくなったり、利用が減ったり、支払いを控えたりするかもしれません。ただし、その影響の大きさはプラットフォームによって異なるため、決めつけずに測定する必要があります。したがって、デーティングサービスにおける不正対策は、単なるセキュリティ機能ではなく、製品の経済性に関わるものです。AIによって偽の活動を低コストで作れるようになるなか、本物のエンゲージメントと人為的に作られたエンゲージメントを見分けることは、製品に関する中核的な判断となります。

経営上のジレンマ：セキュリティと成長のはざまで

高度化する詐欺への対策として、認証を強化するのは当然のように思えます。しかし実際には、判断はそれほど単純ではありません。登録時の手順を一つ増やすたびに、利用者の負担が生じます。本人確認書類の提出、生体認証、繰り返しの確認を求めれば、特定の不正を防げる可能性がある一方で、正規のユーザーが登録を完了するのをためらうおそれもあります。それは獲得コストに直接影響します。同じマーケティング予算で登録・利用開始に至るユーザーが減れば、登録完了1件あたりの獲得コストは上昇します。

デーティングアプリでは、影響は登録の過程にとどまらないことがあります。他の多くの消費者向け製品とは異なり、デーティングプラットフォームは地域ごとのネットワーク密度に依存しています。マッチング体験が機能するには、特定の地域に、相性のよい活動中の相手候補が十分にいる必要があります。そのため、正規の登録を不必要に制限する認証手続きは、地域ネットワークの形成を遅らせ、マッチングの機会を減らし、継続利用にも影響を及ぼしかねません。一方で、不正アカウントを活動可能な状態にしておけば、インフラの消費、コンテンツ監視の負担、レコメンドのゆがみ、ユーザーの信頼低下といった別のコストが生じます。セキュリティを過度に重視すれば、製品は使いにくくなります。不十分なセキュリティでは、製品を信頼できなくなるおそれがあります。

不正防止は、単独の技術的機能としてではなく、製品および事業上の判断として取り組むべきです。リスクに応じたアプローチでは、登録時の基本的な保護策に、行動分析、端末から得られるシグナル、コンテンツの監視を組み合わせ、不審な活動が見られた場合には、より厳格な本人確認を行います。それでも、確認手続きを通過したからといって、そのユーザーが信頼できるとは限りません。実在することを確認できても、意図まで証明できるわけではないからです。有効性は、検知性能、誤検知、対処の速さ、本人確認のコスト、コンバージョン、ユーザーの継続率など、複数の側面を総合して評価すべきです。多くの正規ユーザーを誤って制限するような検知精度の向上は、事業にとって望ましい成果とはいえません。さらに、プライバシーの問題もあります。やり取りを分析したり、本人確認のための追加情報を収集したりするには、透明性を確保し、収集するデータを最小限に抑え、アクセスを厳格に管理する必要があります。問うべきなのは、プラットフォームが何件の不正アカウントをブロックできるかではなく、正規ユーザーにとって快適な体験を守りながら、どれだけリスクを低減できるかです。

本人確認の先にあるもの：コミュニティの役割

AIが生成する会話の説得力が高まるにつれ、製品として考えるべき問いが浮かび上がります。出会い系プラットフォームはデジタル上のやり取りだけに注力すべきでしょうか。それとも、現実の場で関係が育まれる機会も増やすべきでしょうか。Fledgeでは、相性に基づくマッチングと、オフラインのイベントやコミュニティ体験を組み合わせ、アルゴリズムによる出会いから実際に会うまでの流れを自然にするモデルを模索しています。イベントに参加したからといって、その人が信頼できると証明されるわけでも、本人確認に代わるわけでもありません。しかし、プロフィールやチャットでは得られない社会的な文脈が生まれます。これは有望な方向性だと考えていますが、AI詐欺への単独の解決策ではありません。

AIは、人々が相性の良い相手を見つけるのを助け、モデレーションを支援し、不審な行動を検知するために活用すべきであり、関係があるかのように装うために使うべきではありません。そのため、成功はアクティブユーザー数、マッチ数、コンバージョンだけで測るのではなく、やり取りの質や真正性、さらにはユーザーが実際に求めている成果も加味して評価すべきです。利用者のエンゲージメントが高くても、真のつながりがほとんど生まれていないプラットフォームは、目指すべきものを見誤ったまま最適化を進めるおそれがあります。

競争優位につながる信頼

AIは今後も、不正を行う側と、それに対抗するプラットフォームの双方を強化し続けるでしょう。単一の技術的な解決策で対応できる可能性は低く、継続的な適応、複数層の検知、そして事業上のトレードオフに対する責任ある慎重な評価が必要です。しかし、この課題はサイバーセキュリティにとどまりません。信頼は製品の質、ネットワークの成長、ユーザーの行動、長期的な収益を左右します。偽のエンゲージメントを安価に生み出せるようになるほど、本物のやり取りの価値は高まります。出会いにおいて、信頼は安全機能ではありません。繰り返しになりますが、信頼こそが製品です。次世代のプラットフォームは、やり取りの数を増やすことよりも、ユーザーがそのやり取りを本物だと信頼できる環境を築くことで、より大きな支持を得るかもしれません。