Google DeepMind und GovTech stellen Modell zur Erkennung von Betrugsversuchen direkt auf dem Gerät vor

Google DeepMind und die Government Technology Agency of Singapore (GovTech) haben am 14. Oktober 2026 ein Modell zur Erkennung von Betrugsversuchen direkt auf dem Gerät vorgestellt. Es soll Smartphone-Nutzer vor manipulativen Gesprächen warnen, ohne private Nachrichten in die Cloud zu übertragen – in einem Land, in dem Betrugsfälle seit 2019 Verluste von mehr als 4 Milliarden S$ verursacht haben.

Betrugsverluste und die Verlagerung hin zu Social Engineering

Laut der Ankündigung im Blog von Google DeepMind, die JJ Geewax und Miguel de Andrés verfasst haben, machen Betrugsfälle mehr als die Hälfte der gemeldeten Straftaten in Singapur aus und haben seit 2019 Verluste von über 4 Milliarden S$ verursacht. Der Ankündigung zufolge haben sich die Betrugsmaschen von einfachem Phishing hin zu komplexem Social Engineering verlagert. Dabei bauen Angreifer überzeugende Gespräche auf, um ihre Opfer zu manipulieren, bevor sie sie um Geld bitten. Solche Betrugsfälle verursachen inzwischen bis zu 80 % aller Verluste.

Allgemeine Modelle haben laut der Ankündigung oft Schwierigkeiten, lokal verbreitete Täuschungsmethoden zu erkennen, was die Betrugserkennung erschwert. Das kompakte Gemma-Modell von Google DeepMind wurde anhand lokaler Betrugsgespräche gezielt weitertrainiert. Diese reichten von Fällen, in denen sich Betrüger als öffentliche Einrichtungen, Banken oder lokale Persönlichkeiten ausgaben, bis hin zu aktuellen regionalen Betrugsmaschen. Der Ankündigung zufolge kann das Modell dadurch harmlosen sozialen Austausch von tatsächlichen Manipulationsversuchen unterscheiden. Das entstandene Modell ist für den Einsatz auf handelsüblichen Smartphones in Singapur optimiert.

Verarbeitung direkt auf dem Gerät und eine zweistufige Pipeline

Das Modell verarbeitet Gesprächsdaten direkt auf dem Gerät. Herkömmliche Bedrohungserkennung durchsucht laut der Ankündigung Nachrichten auf Cloud-Servern. Viele Messaging-Plattformen verwenden jedoch Ende-zu-Ende-Verschlüsselung und können private Gespräche daher nicht einsehen. Die lokale Analyse ermöglicht eine schnellere Untersuchung von Gesprächsmustern, um manipulative Absichten zu erkennen. So können Betroffene handeln, bevor finanzielle Schäden entstehen oder Zugangsdaten offengelegt werden.

Wenn das Modell manipulative Gesprächsmuster erkennt, erscheint in Echtzeit eine Warnung auf dem Gerät. Sie fordert die Nutzer dazu auf, innezuhalten, bevor sie vertrauliche Informationen oder Geld weitergeben.

Laut der Ankündigung war die Energieeffizienz beim Einsatz eines komplexen Betrugsklassifikators auf modernen Smartphones ein entscheidender Aspekt. Die Teams begegneten dieser Herausforderung mit einer zweistufigen Pipeline. In Stufe 1 prüft ein leichter, effizienter Klassifikator eingehende Nachrichten mit minimalem Energieverbrauch und konzentriert sich darauf, potenzielle Bedrohungen aufzuspüren. In Stufe 2 wertet das gezielt weitertrainierte Gemma-Modell einen größeren Gesprächsausschnitt im Kontext aus, um eine Bedrohung zu bestätigen oder einen Fehlalarm zu verwerfen.

Governance-Maßnahmen

Die Zusammenarbeit wurde im Rahmen der Singapore International Cyber Week 2026 vorgestellt. Die Eröffnungsrede der Veranstaltung hielt am 13. Oktober 2026 K Shanmugam, Singapurs Senior Minister und Minister for Home Affairs, wie aus der vom Ministry of Home Affairs veröffentlichten Rede hervorgeht.

Der Ankündigung zufolge wurden während der gesamten Entwicklung strenge Governance-Maßnahmen eingehalten, die als „Souveräne Sandbox“, „Keine Bürgerdaten“ und „Stresstests“ bezeichnet wurden. Im Rahmen der „Souveränen Sandbox“ fand das gezielte Weitertraining in der von GovTech verwalteten und gewarteten Google-Cloud-Platform-Umgebung statt, sodass die Trainingsdaten isoliert blieben. Bei der Maßnahme „Keine Bürgerdaten“ wurden private und personenbezogene Daten strikt vom Training ausgeschlossen. Stattdessen kamen anonymisierte Datensätze aus Betrugsmeldungen und Informationsquellen zum Einsatz. Im Rahmen der „Stresstests“ wurde das Modell anhand synthetischer Dialoge und lokaler Korpora geprüft, die vielfältige Betrugskategorien und sich wandelnde Methoden zur Identitätsvortäuschung abdeckten.

„Betrug zu bekämpfen, sollte nicht bedeuten, die Privatsphäre aufzugeben“, sagte Mark Chen, Director of Trust and Safety bei GovTech Singapore. „Gemeinsam mit Google DeepMind bringen wir fortschrittlichen KI-Schutz direkt auf die Geräte der Bürgerinnen und Bürger. So können wir hochgradig gezielte, lokale Betrugsversuche in Echtzeit erkennen und zugleich die private Kommunikation vollständig schützen.“

Hintergrund zur nationalen KI-Partnerschaft

Das Modell zur Erkennung von Betrugsversuchen wurde im Rahmen von Googles National AI Partnership mit der Regierung Singapurs bereitgestellt. Google DeepMind kündigte diese Partnerschaft am 20. Mai 2026 an und startete im Rahmen seiner Initiative National Partnerships for AI neue Programme im Land, nachdem das Unternehmen im Vorjahr ein Forschungslabor in Singapur eröffnet hatte.

Zu diesen Programmen gehören die Erforschung der Zusammenarbeit zwischen medizinischem Fachpersonal und KI als klinischem Co-Piloten mit öffentlichen Gesundheitsverbünden; die Unterstützung der Forschung zu Infektionskrankheiten und der Pandemievorbereitung gemeinsam mit Google.org, einer Organisation, die mit einem Beitrag von 7 Millionen US-Dollar zur Koalition Health for Human Potential der Philanthropy Asia Alliance beiträgt; ein von Gemma unterstützter Laufbegleiter für blinde und sehbehinderte Athletinnen und Athleten, der gemeinsam mit SG Enable, Singapurs zentraler Behörde für Inklusion und die Belange von Menschen mit Behinderungen, getestet und weiterentwickelt wurde; Schulungen für lokale Forschende zu agentischen KI-Wissenschaftswerkzeugen mit der National Research Foundation; die Bereitstellung von Gemini for Education für Lehrkräfte an Grundschulen bis hin zu Junior Colleges; sowie Forschung zu multimodalen und mehrsprachigen Sicherheits-Benchmarks gemeinsam mit der Infocomm Media Development Authority und MLCommons.

Integrationsmöglichkeiten für Messaging-Anbieter und Betriebssystemhersteller

In der Ankündigung heißt es, Messaging-Plattformen und Betriebssystemanbieter könnten diese leichtgewichtigen Modelle direkt integrieren, um Nutzer lokal zu schützen und Chatverläufe sicher zu halten, ohne private Daten offenzulegen. Das Projekt wird als Vorbild für Messaging-Plattformen dargestellt, die den Schutz der Nutzer mit Ende-zu-Ende-Verschlüsselung in Einklang bringen, und als Beispiel dafür, wie Regierungen und Modellanbieter zusammenarbeiten können, um Technologien zum Wohl der Allgemeinheit zu entwickeln.