Google DeepMind en GovTech onthullen model voor op het apparaat uitgevoerde detectie van oplichting

Google DeepMind en de Government Technology Agency of Singapore (GovTech) kondigden op 14 oktober 2026 een model voor op het apparaat uitgevoerde detectie van oplichting aan. Het model is bedoeld om smartphonegebruikers te waarschuwen voor manipulatieve gesprekken zonder privéberichten naar de cloud te sturen, in een land waar oplichting sinds 2019 tot meer dan S$4 miljard aan verliezen heeft geleid.

Verliezen door oplichting en de verschuiving naar social engineering

Volgens de aankondiging op de blog van Google DeepMind, geschreven door JJ Geewax en Miguel de Andrés, is oplichting goed voor meer dan de helft van de gemelde misdrijven in Singapore en heeft deze sinds 2019 tot meer dan S$4 miljard aan verliezen geleid. In de aankondiging staat dat oplichters zijn overgestapt van eenvoudige phishing naar complexe social engineering, waarbij aanvallers overtuigende gesprekken opbouwen om slachtoffers te manipuleren voordat ze om geld vragen, en dat dergelijke oplichting inmiddels goed is voor maximaal 80% van alle verliezen.

Generieke modellen hebben vaak moeite met plaatselijke misleidingstechnieken, waardoor oplichting moeilijker te detecteren is, aldus de aankondiging. Het lichtgewicht Gemma-model van Google DeepMind is verder getraind met lokale oplichtingsgesprekken, variërend van het zich voordoen als overheidsinstanties, banken en lokale prominenten tot actuele regionale oplichtingspraktijken. Volgens de aankondiging kan het model hierdoor onschuldige sociale gesprekken onderscheiden van daadwerkelijke manipulatie. Het resulterende model is geoptimaliseerd om op gangbare smartphones in Singapore te werken.

Verwerking op het apparaat en een pijplijn in twee fasen

Het model verwerkt gespreksgegevens op het apparaat zelf. Bij conventionele dreigingsdetectie worden berichten gescand op servers in de cloud, legt de aankondiging uit, maar veel berichtenplatforms gebruiken end-to-endversleuteling en kunnen privégesprekken daarom niet inspecteren. Volgens de aankondiging maakt lokale analyse het mogelijk gesprekspatronen sneller te onderzoeken en manipulatieve bedoelingen te detecteren, zodat mensen kunnen ingrijpen voordat hun financiële gegevens of inloggegevens worden blootgesteld.

Wanneer het model manipulatieve gesprekspatronen detecteert, verschijnt er direct een waarschuwing op het apparaat. Die spoort de gebruiker aan even stil te staan voordat die gevoelige informatie of geld deelt.

Volgens de aankondiging was een laag batterijverbruik een belangrijk aandachtspunt bij het draaien van een complexe classifier voor oplichting op moderne smartphones. De teams pakten dit aan met een pijplijn in twee fasen. In fase 1 scant een lichte, efficiënte classifier binnenkomende berichten met minimaal energieverbruik, met als doel mogelijke dreigingen op te sporen. In fase 2 beoordeelt het verder getrainde Gemma-model een grotere momentopname van het gesprek in de context, om een dreiging te bevestigen of een vals alarm af te wijzen.

Governancemaatregelen

De samenwerking werd gepresenteerd tijdens Singapore International Cyber Week 2026. De openingstoespraak van het evenement werd op 13 oktober 2026 gehouden door K Shanmugam, Senior Minister en minister van Binnenlandse Zaken van Singapore, volgens de toespraak die is gepubliceerd door het Ministry of Home Affairs.

De aankondiging beschrijft hoe tijdens de hele ontwikkeling strikte governance werd gehandhaafd aan de hand van maatregelen met de namen Soevereine sandbox, Geen burgergegevens en Stresstests. Bij de Soevereine sandbox vond het verder trainen plaats binnen de door GovTech beheerde en onderhouden Google Cloud Platform-omgeving, zodat de trainingsgegevens geïsoleerd bleven. Bij Geen burgergegevens werden privégegevens en persoonlijk identificeerbare informatie strikt uitgesloten van de training; er werden geanonimiseerde datasets gebruikt die afkomstig waren uit meldingen van oplichting en inlichtingenfeeds. Bij de Stresstests werd het model getest met synthetische dialogen en lokale verzamelingen gegevens over uiteenlopende vormen van oplichting en veranderende tactieken waarbij oplichters zich voordoen als anderen.

“Oplichting bestrijden mag niet betekenen dat we persoonlijke privacy opofferen”, zei Mark Chen, directeur Trust and Safety bij GovTech Singapore. “Samen met Google DeepMind brengen we geavanceerde AI-bescherming rechtstreeks naar de apparaten van burgers. Zo kunnen we zeer gerichte, lokale oplichtingspogingen in realtime opsporen, terwijl persoonlijke communicatie volledig privé blijft.”

Achtergrond van het nationale AI-partnerschap

Het model voor detectie van oplichting is ontwikkeld als onderdeel van Google’s National AI Partnership met de regering van Singapore. Google DeepMind kondigde dat partnerschap aan op 20 mei 2026 en startte in het land nieuwe programma’s in het kader van zijn initiatief National Partnerships for AI, nadat het er het voorgaande jaar een onderzoekslaboratorium had geopend.

De programma’s omvatten onderzoek naar samenwerking tussen AI en artsen als co-clinici binnen clusters voor volksgezondheid; ondersteuning van onderzoek naar infectieziekten en voorbereiding op pandemieën met Google.org, als onderdeel van een bijdrage van $7 miljoen aan de coalitie Health for Human Potential van de Philanthropy Asia Alliance; een hardloopassistent op basis van Gemma voor blinde en slechtziende sporters, die samen met SG Enable, het centrale Singaporese agentschap voor handicap en inclusie, is getest en verder ontwikkeld; training voor lokale onderzoekers in wetenschappelijke tools met agentische AI, verzorgd door de National Research Foundation; Gemini for Education, dat beschikbaar wordt gesteld aan docenten van basisscholen tot junior colleges; en onderzoek naar benchmarks voor veiligheid bij multimodale en meertalige systemen, samen met de Infocomm Media Development Authority en MLCommons.

Integratiemogelijkheden voor berichtenplatforms en aanbieders van besturingssystemen

In de aankondiging staat dat berichtenplatforms en leveranciers van besturingssystemen deze lichte modellen rechtstreeks kunnen integreren om gebruikers lokaal te beschermen en chatgesprekken veilig te houden zonder privégegevens bloot te geven. Het project wordt voorgesteld als een voorbeeld voor berichtenplatforms die gebruikersbescherming willen combineren met end-to-endversleuteling, en als een voorbeeld van hoe overheden en modelaanbieders samenwerken om technologie te ontwikkelen voor het algemeen belang.