Google DeepMind och GovTech presenterar modell för att upptäcka bedrägerier direkt på enheten

Google DeepMind och Government Technology Agency of Singapore (GovTech) presenterade den 14 oktober 2026 en modell som upptäcker bedrägerier direkt på enheten. Den ska varna smartphoneanvändare för manipulerande konversationer utan att privata meddelanden skickas till molnet, i ett land där bedrägerier har orsakat förluster på mer än 4 miljarder S$ sedan 2019.

Bedrägeriförluster och övergången till social manipulation

Enligt meddelandet på Google DeepMinds blogg, författat av JJ Geewax och Miguel de Andrés, utgör bedrägerier mer än hälften av de anmälda brotten i Singapore och har orsakat förluster på mer än 4 miljarder S$ sedan 2019. I meddelandet står det att bedrägerimetoderna har utvecklats från enkel nätfiske till avancerad social manipulation, där bedragare bygger upp trovärdiga konversationer för att manipulera offren innan de ber om pengar, och att sådana bedrägerier nu står för upp till 80 % av alla förluster.

Generella modeller har ofta svårt att känna igen lokala bedrägerimetoder, vilket försvårar upptäckten av bedrägerier, står det i meddelandet. Google DeepMinds lätta Gemma-modell finjusterades med hjälp av lokala bedrägerikonversationer, allt från försök att utge sig för att vara offentliga institutioner, banker och lokala profiler till aktuella regionala bedrägerier. Enligt meddelandet gör detta att modellen kan skilja harmlöst socialt småprat från verklig manipulation, och den färdiga modellen är optimerad för att köras på vanliga smartphones i Singapore.

Behandling direkt på enheten och en pipeline i två steg

Modellen behandlar konversationsdata direkt på enheten. Traditionell hotdetektering söker igenom meddelanden på servrar i molnet, förklarar meddelandet, men många meddelandeplattformar har totalsträckskryptering och kan därför inte granska privata konversationer. Enligt meddelandet gör lokal analys det möjligt att snabbare undersöka konversationsmönster för att upptäcka manipulerande avsikter, så att människor kan agera innan de drabbas av ekonomiska förluster eller får sina inloggningsuppgifter röjda.

När modellen upptäcker manipulerande mönster i en konversation visas en varning i realtid på enheten, med en uppmaning till användaren att stanna upp innan hen delar känslig information eller pengar.

Enligt meddelandet var energieffektivitet en avgörande faktor när en avancerad bedrägeriklassificerare skulle köras på moderna smartphones. Teamen hanterade detta med en pipeline i två steg. I steg 1 granskar en lätt och effektiv klassificerare inkommande meddelanden med minimal strömförbrukning och fokuserar på att upptäcka möjliga hot. I steg 2 gör den finjusterade Gemma-modellen en kontextuell bedömning av ett större utdrag ur konversationen för att bekräfta ett hot eller avfärda ett falsklarm.

Styrningsåtgärder

Samarbetet presenterades vid Singapore International Cyber Week 2026. Evenemangets öppningsanförande hölls den 13 oktober 2026 av K Shanmugam, Singapores seniorminister och inrikesminister, enligt anförandet som publicerats av Ministry of Home Affairs.

I meddelandet beskrivs den strikta styrning som upprätthölls under hela utvecklingen genom åtgärderna Sovereign Sandbox, No Citizen Data och Stress-Testing. Inom ramen för Sovereign Sandbox genomfördes finjusteringen i GovTechs Google Cloud Platform-miljö, som myndigheten hanterar och underhåller, så att träningsdata hölls isolerade. Enligt No Citizen Data uteslöts privata och personligt identifierbara uppgifter helt från träningen; i stället användes anonymiserade datamängder från bedrägerirapporter och underrättelseflöden. Inom ramen för Stress-Testing testades modellen mot syntetiska dialoger och lokala korpusar som omfattade olika typer av bedrägerier och nya metoder för att utge sig för att vara någon annan.

”Att bekämpa bedrägerier ska inte behöva innebära att man offrar den personliga integriteten”, säger Mark Chen, chef för Trust and Safety på GovTech Singapore. ”Tillsammans med Google DeepMind tar vi avancerat AI-skydd direkt till medborgarnas enheter. Det gör att vi kan upptäcka mycket målinriktade, lokala bedrägeriförsök i realtid, samtidigt som den personliga kommunikationen förblir helt privat.”

Bakgrund till det nationella AI-partnerskapet

Modellen för att upptäcka bedrägerier togs fram som en del av Googles National AI Partnership med Singapores regering. Google DeepMind meddelade att partnerskapet hade ingåtts den 20 maj 2026 och lanserade nya program i landet inom ramen för initiativet National Partnerships for AI, efter att ha öppnat ett forskningslaboratorium i Singapore året innan.

Programmen omfattar bland annat utforskning av samarbete mellan AI och läkare i offentliga vårdkluster; stöd till forskning om infektionssjukdomar och beredskap inför pandemier tillsammans med Google.org, som en del av ett bidrag på 7 miljoner dollar till Philanthropy Asia Alliances koalition Health for Human Potential; en löparassistent med Gemma för blinda idrottare och idrottare med nedsatt syn, som testats och vidareutvecklats tillsammans med SG Enable, Singapores centrala myndighet för funktionsnedsättning och inkludering; utbildning i vetenskapliga verktyg för agentisk AI för lokala forskare tillsammans med National Research Foundation; Gemini for Education för lärare från grundskolor till gymnasieskolor; samt forskning om riktmärken för säkerhet inom multimodal och flerspråkig AI tillsammans med Infocomm Media Development Authority och MLCommons.

Integrationsväg för meddelandeplattformar och operativsystemleverantörer

I tillkännagivandet står det att meddelandeplattformar och operativsystemleverantörer kan integrera dessa lättviktiga modeller direkt för att skydda användarna lokalt och hålla chattkommunikationen säker utan att exponera privata uppgifter. Projektet framställs som en förebild för hur meddelandeplattformar kan balansera användarskydd med end-to-end-kryptering, och som ett exempel på hur regeringar och modellleverantörer kan samarbeta för att utveckla teknik för allmänhetens bästa.