AIは実在する人々を見つける手助けはできても、置き換えることはできません

偽の画像は最も鋭い目でも騙すことがありますが、プラットフォームが見る偽の行動は騙すべきではありません。

過去20年間、オンラインデーティング業界はユーザーの安全をシンプルなチェックリストとして教えてきました。私たちは、写真を注意深く確認し、相手のストーリーの一貫性をチェックし、または会う前にビデオ通話を要求するようユーザーに助言してきました。その指針はかつてデジタル安全の金字塔とされていましたが、現在では完全に時代遅れです。決定的な証拠は 2025年2月のiProovによる研究、業界をリードするバイオメトリクスベンダーです。研究者は英国と米国の2,000人の被験者に、画像と動画の両方を使用してさまざまな項目を実物か合成かとしてラベル付けさせました。結果は驚くべきもので、エラーを全く出した被験者はわずか2人でした。これはテスト対象者のわずか0.1％に相当し、残りの1,998人は少なくとも1回はミスをしました。高い自信と高いエラー率の組み合わせは消費者にとって危険な混合です。そして詐欺師はそれを利用する準備ができています。によれば Entrust 2026 Identity Fraud Report、ディープフェイクは現在、バイオメトリクス詐欺試行の5件に1件を占めています。ディープフェイクされた自撮りは2025年に58％増加し、インジェクション攻撃は前年比で40％増加しました。日常のユーザーが高度に進化した生成AIモデルの視覚認識に勝つことを期待するのは責任放棄であり、リスクをプラットフォームから顧客へ直接転嫁することになります。

情報の非対称性：プラットフォームはユーザーが把握できない情報を知っている

現実には、現在の検出ツールは一度に1つのオブジェクトに対してオブジェクトレベルのテストを実行するため、失敗しています。あるテストは特定の画像がAIによって生成されたかどうかを尋ね、別のテストは文書が偽造されたかどうかを、さらに別のテストはメッセージ内のテキストが機械生成かどうかを尋ねます。問題は、これらのテストがすぐに陳腐化することです。生成モデルの進歩により出力品質が継続的に向上するにつれ、従来の応答や検出手法はほぼ一夜にして時代遅れとなります。

はるかに優れたアプローチは、単一シグナルの外観を多数のシグナルの共同適合に置き換えることです。当社の手法はユーザーの存在のさまざまな次元間の関係性にスコアを付けます。シグナルの一つの次元はデバイスがシステムにどのように見えるか、別の次元はユーザーのセッションがどこから来ているか、さらに別の次元はアカウントの実際の挙動です。これらすべてが、システムが潜在的な詐欺の指標をフラグした際に人間のレビューへと導きます。

国連薬物犯罪事務所は、その Transnational Organized Crime Threat Assessment 2026年の東南アジア向け報告書では、2025年のオンライン詐欺損失を報告対象地域だけでUS$883億からUS$1,141億と推定しています。この規模の産業詐欺はスピードとボリュームで成り立っています。単一の情報は簡単に偽造できますが、すべてそれらを一貫して偽造することは、プラットフォームによって継続的に排除される複数のアカウントにわたって行うと、維持が非常に負担となります。我々が導入するあらゆる摩擦の層は、詐欺ビジネスのアカウントあたりコストを上昇させ、利益率がゼロになるまで続きます。

こここそがAIが真に価値を発揮する領域です。偽造検出は新技術により向上していますが、詐欺を示す同時発生要因を特定し、早期介入につなげる能力の向上は、ユーザーにとっては格段に有益です。ユーザーの指標が一致しないとき、真意が露呈します。正直なメンバー、詐欺師、別の目的を持つ訪問者が同じ写真やほぼ同一の最初のメッセージを共有していても、彼らの総合的な指標は異なり、全く異なるストーリーを語ります。返信の仕方、応答速度、会話のエスカレーション方法、質問内容、そしてどの会話が放棄されたかなど、すべてが一つの画像を描き出します。身元は完璧に生成された嘘であっても、行動は常に悪意を明らかにします。

詐欺はもはや偽画像を見つけることだけではありません

連邦取引委員会は2026年に、2025年のロマンス詐欺損失が 22％増加した2024年と比較して、約15億ドルに達しました。連絡手段を特定した人のうち、約 60％が述べた最初の接触はソーシャルメディアプラットフォーム上で行われたと回答しました。

我々の業界には大きな情報格差があります。プラットフォームは同じカテゴリのシグナルを見ることができますが、例えばログイン国やアカウントの年齢もほぼ確実に把握できます。メンバーが見るのは笑顔と、プロフィールの要素を巧みに織り交ぜた慎重に作られた段落だけです。プラットフォームはこの隠れたデータを活用して安全な環境を構築したり、メンバーがそれに応じて行動できるように開示したりする権限を持っています。残念ながら、業界の大半はどちらも行っていません。

業界が行動を起こさないのは、ユーザーのプライバシーに関わる複雑なトレードオフが原因であることが多いです。この方程式のコストがかかる半分は行動を取ることです。信頼を築くには二つの道があります：ゆっくりとした道は評判で、速い道は検証です。検証は摩擦を生み出します。業界は圧倒的にスピード、ボリューム、低摩擦を求めており、これが慢性的な検証不足を説明しています。

しかし、解決策が現れつつある。2024年8月にarXivに掲載されたプレプリントで「personhood credentials」が提案された。OpenAI、Microsoft、MIT、Oxford、Harvardなどの機関からなる32人の著者は、基礎となる身元を明かさずに、実在する人物であることをサービスに証明できるプライバシー保護認証を提案した。彼らの主張は、CAPTCHAは不十分であり、異常検知は高度なAIに対して急速に効果が薄れているというものだ。彼らは正しい。デートは、この劣化の影響が最も大きく表れる領域の一つであり、販売される核心的な商品は信頼そのものだからだ。

より良いコミュニティ基準の構築

犯罪的行為の可能性を特定するのに役立つ同じシグナルは、他の種類の悪質行為を特定するのにも利用できる。意図の読み取りは単に詐欺を防止することをはるかに超える。ウェブサイト上のすべての悪質な行為者が犯罪者というわけではない。嫌なユーザーが法を破っているとは限らず、取引として扱われる関係が詐欺であるとは限らない。人々を軽蔑的に扱っても連邦の起訴には至らない。しかし、これらの行動はコミュニティを深刻に劣化させる。さらに悪いことに、これらはメンバーからの通報のみに依存するシステムにとってはしばしば見えないものとなっている。

業界は従来、違法性を境界としてきた。詐欺や未成年者をスクリーニングし、法律が厳格に要求するものは削除し、残りは合意した大人同士の問題とみなす。取引的行動を特定し、積極的に阻止するためにAIを使用しているデートサイトは他に知らない。私たちのStop@Send機能は、送信中のメッセージを評価し、単なる静的キーワードリストとの比較ではなく、より深い意味を探る。ほとんどの場合、回答は送信者に対してメッセージがコミュニティに不適切である理由を正確に伝える説明となる。

もちろん、これは無料ではない。メンバーの会話を中断させることは摩擦を生むが、驚くべきことにそれは私たちが積極的に吸収するコストである。しかし、私たちの基準は、実際にプラットフォーム上で許可されている行動によって最もよく確立されるべきであり、未施行のコミュニティガイドラインページに掲載されているものではない。悪質な行為者に不便を強いることをしないプラットフォームは、コミュニティと自称する資格がない。

業界への課題

現在の市場はAIが人間に取って代わることを競っている：AIコンパニオン、AI生成プロフィール、フラーティングエージェントの台頭が見られる。私はこの方向性は行き止まりだと確信している。エンゲージメントのみに最適化しており、そこから得られるものはそれだけだ。私たちのアプローチは根本的に異なる。AIを活用して悪質な行為者を排除し、メンバー同士が互いに責任を持ち、より意味のある実世界の関係につながりやすい形で相互に扱えるよう支援している。

回避すべき赤旗のリストは価値を失った。かつて詐欺師を見抜くシグナルは、生成モデルが排除するように学習した正確な特徴となり、私たちは永遠に続く軍拡競争に閉じ込められている。第一のルール――知らない人や直接会っていない人に決して金銭を送らない――は誰もが守るべきであるが、重要な質問はもはや写真に関するものではない。プラットフォームと、ユーザーが知らない情報をどう活用しているかが問われている。

この課題に対して良好な対応を示すプラットフォームは、信頼のために積極的に設計されている。対応しないプラットフォームは、メンバーに0.1パーセントの成功率で自分を守るためにより多くの作業を強いるだけだ。

私はこの課題をすべてのプラットフォーム、私自身のものも含めて提示した。回答は正直かつ完全であることを期待している。現在、このギャップを埋める技術はすでに存在する。詐欺が続くのは、阻止することが容易なサインアップの大門を通じた膨大な成長を放棄することになるからだ。これは技術的制限というよりビジネス上の判断である。そして正しく判断したプラットフォームがこの議論で唯一重要な資産、すなわちメンバーの信頼を保持している。