Google DeepMind og GovTech lancerer model til registrering af svindel på enheden

Google DeepMind og Singapores Government Technology Agency (GovTech) annoncerede den 14. oktober 2026 en model, der registrerer svindel direkte på enheden. Modellen skal advare smartphonebrugere om manipulerende samtaler uden at sende private beskeder til skyen i et land, hvor svindel har kostet mere end 4 mia. S$ siden 2019.

Tab som følge af svindel og skiftet til social manipulation

Ifølge annonceringen på Google DeepMinds blog, skrevet af JJ Geewax og Miguel de Andrés, udgør svindel mere end halvdelen af de anmeldte forbrydelser i Singapore og har kostet mere end 4 mia. S$ siden 2019. Ifølge annonceringen er svindelmetoderne gået fra simpel phishing til avanceret social manipulation, hvor gerningspersoner opbygger overbevisende samtaler for at manipulere ofrene, før de beder om penge. Sådanne svindelnumre står nu for op til 80 % af de samlede tab.

Generiske modeller har ofte svært ved at genkende lokalt tilpassede bedragsteknikker, hvilket gør det vanskeligere at opdage svindel, står der i annonceringen. Google DeepMinds letvægtsmodel Gemma blev finjusteret med lokale svindelsamtaler, der spændte fra efterligninger af offentlige institutioner, banker og lokale kendte personer til aktuelle regionale svindelnumre. Ifølge annonceringen gør det modellen i stand til at skelne harmløs smalltalk fra reel manipulation, og den færdige model er optimeret til at køre på almindelige smartphones i Singapore.

Behandling på enheden og en pipeline i to trin

Modellen behandler samtaledata direkte på enheden. Traditionelle metoder til trusselsdetektion scanner beskeder på servere i skyen, forklarer annonceringen, men mange beskedtjenester bruger end-to-end-kryptering og kan derfor ikke gennemgå private samtaler. Ifølge annonceringen gør lokal analyse det muligt hurtigere at undersøge samtalemønstre for at opdage manipulerende hensigter, så folk kan nå at reagere, før de udsættes for økonomiske tab eller får deres loginoplysninger kompromitteret.

Når modellen registrerer manipulerende samtalemønstre, vises en advarsel på enheden i realtid, som opfordrer brugeren til at stoppe op, før vedkommende deler følsomme oplysninger eller penge.

Ifølge annonceringen var energieffektivitet afgørende, når en avanceret svindelklassifikator skulle køre på moderne smartphones. Holdene håndterede dette med en pipeline i to trin. I trin 1 gennemgår en let og effektiv klassifikator indgående beskeder med et minimalt strømforbrug og fokuserer på at fange mulige trusler. I trin 2 foretager den finjusterede Gemma-model en kontekstuel vurdering af et større udsnit af samtalen for at bekræfte en trussel eller afvise en falsk alarm.

Styringsforanstaltninger

Samarbejdet blev præsenteret på Singapore International Cyber Week 2026. Arrangementets åbningstale blev holdt den 13. oktober 2026 af K Shanmugam, Singapores seniorminister og indenrigsminister, ifølge talen, der blev offentliggjort af indenrigsministeriet.

Annonceringen beskriver, hvordan der blev opretholdt en streng styring gennem hele udviklingen med foranstaltningerne Sovereign Sandbox, No Citizen Data og Stress-Testing. Under Sovereign Sandbox foregik finjusteringen i GovTechs administrerede og vedligeholdte Google Cloud Platform-miljø, så træningsdataene forblev isolerede. Under No Citizen Data udelukkede man strengt private oplysninger og personhenførbare oplysninger fra træningen og brugte anonymiserede datasæt baseret på svindelrapporter og efterretningsfeeds. Under Stress-Testing blev modellen testet med syntetiske dialoger og lokale korpora, der dækkede forskellige svindelkategorier og skiftende metoder til identitetssvindel.

»Kampen mod svindel bør ikke ske på bekostning af privatlivets fred,« sagde Mark Chen, direktør for tillid og sikkerhed hos GovTech Singapore. »Sammen med Google DeepMind bringer vi avanceret AI-beskyttelse direkte ud på borgernes enheder. Det gør det muligt for os at opdage meget målrettede, lokale svindelforsøg i realtid, samtidig med at den personlige kommunikation forbliver helt privat.«

Baggrund for det nationale AI-partnerskab

Modellen til registrering af svindel blev udviklet som led i Googles nationale AI-partnerskab med Singapores regering. Google DeepMind annoncerede partnerskabet den 20. maj 2026 og lancerede nye programmer i landet under initiativet National Partnerships for AI efter at have åbnet et forskningslaboratorium i Singapore året før.

Programmerne omfatter en undersøgelse af samarbejde om AI som klinisk medbehandler med offentlige sundhedsklynger; støtte til forskning i infektionssygdomme og pandemiberedskab sammen med Google.org, som en del af et bidrag på 7 mio. $ til Philanthropy Asia Alliances koalition Health for Human Potential; en Gemma-drevet løbeassistent til blinde og svagsynede atleter, som er blevet testet og videreudviklet sammen med SG Enable, Singapores centrale myndighed på handicap- og inklusionsområdet; undervisning i videnskabelige værktøjer med agentisk AI for lokale forskere sammen med National Research Foundation; adgang til Gemini for Education for undervisere fra grundskoler til junior colleges; samt forskning i sikkerhedsbenchmarks for multimodale og flersprogede systemer sammen med Infocomm Media Development Authority og MLCommons.

Integrationsmuligheder for udbydere af beskedtjenester og operativsystemer

Meddelelsen oplyser, at meddelelsesplatforme og leverandører af operativsystemer kan integrere disse letvægtsmodeller direkte for at beskytte brugerne lokalt og holde chatsamtaler sikre uden at eksponere private data. Projektet fremhæves som en model for meddelelsesplatforme, der skal afveje brugerbeskyttelse mod end-to-end-kryptering, og som et eksempel på, at regeringer og modeludbydere arbejder sammen om at udvikle teknologi til gavn for offentligheden.