Google DeepMind et GovTech dévoilent un modèle de détection des escroqueries directement sur l’appareil

Google DeepMind et l’Agence gouvernementale des technologies de Singapour (GovTech) ont annoncé, le 14 octobre 2026, un modèle de détection des escroqueries qui fonctionne directement sur l’appareil et avertit les utilisateurs de smartphones des conversations manipulatrices sans envoyer leurs messages privés vers le cloud, dans un pays où les escroqueries ont causé plus de 4 milliards de dollars singapouriens (S$) de pertes depuis 2019.

Pertes liées aux escroqueries et essor de l’ingénierie sociale

Selon l’annonce publiée sur le blog de Google DeepMind, rédigée par JJ Geewax et Miguel de Andrés, les escroqueries représentent plus de la moitié des crimes signalés à Singapour et ont causé plus de 4 milliards de dollars singapouriens (S$) de pertes depuis 2019. L’annonce indique que les méthodes des escrocs sont passées de l’hameçonnage simple à des formes complexes d’ingénierie sociale, dans lesquelles les attaquants nouent des conversations convaincantes pour manipuler leurs victimes avant de leur demander de l’argent, et que ces escroqueries représentent désormais jusqu’à 80 % de l’ensemble des pertes.

Les modèles génériques ont souvent du mal à repérer les techniques de tromperie propres à une région, ce qui complique la détection des escroqueries, indique l’annonce. Le modèle léger Gemma de Google DeepMind a été affiné à partir de conversations locales liées à des escroqueries, allant de l’usurpation de l’identité d’organismes publics, de banques et de personnalités locales à des stratagèmes régionaux en vogue. L’annonce précise que cela permet au modèle de distinguer les échanges sociaux anodins des véritables tentatives de manipulation et que le modèle obtenu est optimisé pour fonctionner sur les smartphones courants à Singapour.

Traitement sur l’appareil et pipeline en deux étapes

Le modèle traite les données de conversation directement sur l’appareil. Les systèmes classiques de détection des menaces analysent les messages sur des serveurs dans le cloud, explique l’annonce, mais de nombreuses plateformes de messagerie sont chiffrées de bout en bout et ne peuvent donc pas examiner les conversations privées. Selon l’annonce, effectuer l’analyse localement permet d’examiner plus rapidement les schémas de conversation afin de détecter les intentions manipulatrices, et ainsi d’agir avant qu’une exposition financière ou une divulgation d’identifiants ne se produise.

Lorsque le modèle détecte des schémas de conversation manipulateurs, une alerte s’affiche en temps réel sur l’appareil et invite l’utilisateur à marquer une pause avant de communiquer des informations sensibles ou de l’argent.

Selon l’annonce, l’efficacité énergétique était une préoccupation majeure pour faire fonctionner un classificateur complexe d’escroqueries sur les smartphones modernes. Les équipes ont répondu à cette exigence en mettant au point un pipeline en deux étapes. À la première étape, un classificateur léger et efficace examine les messages entrants en consommant très peu d’énergie et se concentre sur la détection des menaces potentielles. À la deuxième étape, le modèle Gemma affiné effectue une évaluation contextuelle à partir d’un extrait plus large de la conversation afin de confirmer une menace ou d’écarter une fausse alerte.

Mesures de gouvernance

La collaboration a été présentée lors de la Singapore International Cyber Week 2026. Le discours d’ouverture de l’événement a été prononcé le 13 octobre 2026 par K Shanmugam, ministre principal de Singapour et ministre de l’Intérieur, selon le discours publié par le ministère de l’Intérieur.

L’annonce décrit les mesures de gouvernance strictes appliquées tout au long du développement, désignées sous les noms de « bac à sable souverain » (Sovereign Sandbox), « aucune donnée citoyenne » (No Citizen Data) et « tests de résistance » (Stress-Testing). Dans le cadre du bac à sable souverain, l’affinage a eu lieu dans l’environnement Google Cloud Platform géré et entretenu par GovTech, les données d’entraînement restant ainsi isolées. Au titre de la mesure « aucune donnée citoyenne », les données privées ou permettant d’identifier une personne ont été strictement exclues de l’entraînement, qui s’est appuyé sur des jeux de données anonymisés issus de signalements d’escroqueries et de flux de renseignement. Dans le cadre des tests de résistance, le modèle a été évalué à l’aide de dialogues synthétiques et de corpus locaux couvrant diverses catégories d’escroqueries et des tactiques d’usurpation d’identité en constante évolution.

« Lutter contre les escroqueries ne devrait pas nous obliger à sacrifier la vie privée, a déclaré Mark Chen, directeur de la confiance et de la sécurité chez GovTech Singapore. En travaillant avec Google DeepMind, nous mettons une protection avancée par l’IA directement à la disposition des citoyens, sur leurs appareils. Nous pouvons ainsi détecter en temps réel des tentatives d’escroquerie locales très ciblées, tout en préservant entièrement la confidentialité des communications personnelles. »

Contexte du partenariat national pour l’IA

Le modèle de détection des escroqueries a été développé dans le cadre du National AI Partnership de Google avec le gouvernement de Singapour. Google DeepMind a annoncé ce partenariat le 20 mai 2026, lançant dans le pays de nouveaux programmes relevant de son initiative National Partnerships for AI après l’ouverture d’un laboratoire de recherche à Singapour l’année précédente.

Ces programmes comprennent l’étude de la collaboration entre l’IA et des cliniciens au sein de regroupements de santé publique ; le soutien à la recherche sur les maladies infectieuses et à la préparation aux pandémies, avec Google.org, dans le cadre d’une contribution de 7 millions de dollars à la coalition Health for Human Potential de la Philanthropy Asia Alliance ; la mise au point d’un assistant de course à pied propulsé par Gemma pour les athlètes aveugles ou malvoyants, testé et amélioré avec SG Enable, l’agence singapourienne de référence en matière de handicap et d’inclusion ; la formation de chercheurs locaux à des outils scientifiques d’IA agentique avec la National Research Foundation ; la mise à disposition de Gemini for Education auprès des enseignants, de l’école primaire aux junior colleges ; et des travaux de recherche sur des référentiels d’évaluation de la sécurité multimodaux et multilingues avec l’Infocomm Media Development Authority et MLCommons.

Voie d’intégration pour les plateformes de messagerie et les fournisseurs de systèmes d’exploitation

L’annonce indique que les plateformes de messagerie et les fournisseurs de systèmes d’exploitation peuvent intégrer directement ces modèles légers afin de protéger les utilisateurs sur leurs appareils, tout en sécurisant les échanges dans les conversations sans exposer de données privées. Le projet est présenté comme un modèle pour les plateformes de messagerie qui cherchent à concilier protection des utilisateurs et chiffrement de bout en bout, ainsi que comme un exemple de collaboration entre gouvernements et fournisseurs de modèles pour développer des technologies au service du bien public.