Google DeepMindとGovTech、端末上で詐欺を検知するモデルを発表

Google DeepMindとシンガポール政府技術庁（GovTech）は2026年10月14日、スマートフォン利用者に巧妙な会話への警告を表示し、個人的なメッセージをクラウドに送信せずに済む、端末上で詐欺を検知するモデルを発表した。シンガポールでは、2019年以降、詐欺による被害額がS$40億を超えている。

詐欺被害とソーシャルエンジニアリングへの移行

JJ GeewaxとMiguel de Andrésが執筆したGoogle DeepMindのブログでの発表によると、シンガポールで報告された犯罪の半数以上を詐欺が占め、2019年以降の被害額はS$40億を超えている。発表によると、詐欺の手口は単純なフィッシングから複雑なソーシャルエンジニアリングへと移行している。攻撃者は、金銭を要求する前に被害者を巧みに操るため、信ぴょう性の高い会話を作り上げる。こうした詐欺は現在、被害総額の最大80％を占めている。

発表によると、汎用モデルは地域に根差した欺瞞の手口への対応に苦労することが多く、詐欺の検知が難しくなっている。Google DeepMindの軽量モデルGemmaは、公的機関や銀行、地域の著名人になりすます事例から、地域で流行している詐欺の手口まで、現地の詐欺に関する会話データを使ってファインチューニングされた。発表によると、これによりモデルは、害のない日常会話と実際の詐欺的な働きかけを見分けられるようになった。また、完成したモデルはシンガポールで一般的に使われているスマートフォン上で動作するよう最適化されている。

端末上での処理と2段階のパイプライン

このモデルは、会話データを端末自体で処理する。発表によると、従来の脅威検知ではクラウド上のサーバーでメッセージをスキャンするが、多くのメッセージングプラットフォームはエンドツーエンド暗号化を採用しているため、個人的な会話を確認できない。発表では、端末上で分析することで会話のパターンをより迅速に調べ、相手の意図を見抜けるため、金銭や認証情報が流出する前に対処できるとしている。

モデルが会話の中に人を操ろうとするパターンを検知すると、端末上にリアルタイムで警告が表示され、機密情報や金銭を共有する前に立ち止まるよう利用者に促す。

発表によると、最新のスマートフォンで複雑な詐欺分類器を動作させるにあたり、バッテリー効率は重要な懸案事項だった。チームは2段階のパイプラインによってこの課題に対応した。第1段階では、軽量で効率的な分類器が、潜在的な脅威の検出に重点を置き、最小限の電力で受信メッセージをスクリーニングする。第2段階では、ファインチューニング済みのGemmaモデルが、会話のより広範なスナップショットを文脈に沿って評価し、脅威を確認するか、誤警報として除外する。

ガバナンス対策

この協業は、Singapore International Cyber Week 2026で発表された。同イベントの開会挨拶は2026年10月13日、シンガポールの上級大臣兼内務大臣であるK Shanmugamが行った。これは、内務省が公開した挨拶文による。

発表によると、開発全体を通じて厳格なガバナンスが維持され、「主権型サンドボックス」「市民データ不使用」「ストレステスト」と名付けられた対策が実施された。「主権型サンドボックス」では、GovTechが管理・運用するGoogle Cloud Platform環境内でファインチューニングを行い、学習データを隔離した。「市民データ不使用」では、学習に個人情報や個人を特定できる情報を一切使用せず、詐欺報告や情報フィードから得た匿名化データセットを用いた。「ストレステスト」では、多様な詐欺のカテゴリーや変化するなりすましの手口を網羅した合成対話データと地域のデータコーパスを使ってモデルを検証した。

「詐欺対策のために個人のプライバシーを犠牲にすべきではありません」と、GovTech Singaporeのトラスト＆セーフティ担当ディレクター、Mark Chenは述べた。「Google DeepMindと協力し、高度なAIによる保護機能を市民の端末に直接届けます。これにより、個人間のやり取りを完全にプライベートに保ちながら、標的を絞った地域の詐欺をリアルタイムで検知できます。」

国家AIパートナーシップの背景

詐欺検知モデルは、Googleとシンガポール政府の国家AIパートナーシップの一環として提供された。Google DeepMindは2026年5月20日にこのパートナーシップを発表し、前年にシンガポールに研究所を開設した後、同社の「AIのための国家パートナーシップ」イニシアチブのもと、同国で新たなプログラムを開始した。

これらのプログラムには、公衆衛生クラスターとのAI共同臨床医連携の検討、Google.orgと連携した感染症研究およびパンデミックへの備えの支援（Philanthropy Asia Allianceの「Health for Human Potential」連合に対する700万ドルの拠出の一環）、SG Enable（障害者支援とインクルージョンを担うシンガポールの中心機関）とともに検証・改良を進めた、Gemmaを活用した視覚障害者向けランニングアシスタント、National Research Foundationと連携した現地研究者向けエージェント型AI科学ツールの研修、小学校から短期大学までの教育者へのGemini for Educationの提供、そしてInfocomm Media Development AuthorityおよびMLCommonsとのマルチモーダル・多言語安全性ベンチマークに関する研究が含まれる。

メッセージングプラットフォームおよびOSプロバイダー向けの統合方法

発表によると、メッセージングプラットフォームやオペレーティングシステムの提供事業者は、こうした軽量モデルを直接組み込むことで、個人データを外部にさらすことなくチャットでのやり取りの安全性を保ち、ユーザーを端末上で保護できます。このプロジェクトは、ユーザー保護とエンドツーエンド暗号化の両立を目指すメッセージングプラットフォームのモデルであり、政府とモデル提供事業者が協力して公益に資する技術を構築する事例としても紹介されています。