Google DeepMind og GovTech avduker modell for svindeldeteksjon på enheten

Google DeepMind og Singapores Government Technology Agency (GovTech) kunngjorde 14. oktober 2026 en modell for svindeldeteksjon på enheten, utviklet for å varsle smarttelefonbrukere om manipulerende samtaler uten å sende private meldinger til skyen. I landet har svindel ført til tap på mer enn 4 milliarder singaporske dollar (S$) siden 2019.

Svindeltap og overgangen til sosial manipulering

Ifølge kunngjøringen på Google DeepMind-bloggen, skrevet av JJ Geewax og Miguel de Andrés, utgjør svindel mer enn halvparten av de anmeldte lovbruddene i Singapore og har ført til tap på mer enn 4 milliarder S$ siden 2019. I kunngjøringen står det at svindelmetodene har gått fra enkel nettfisking til avansert sosial manipulering, der angripere bygger opp overbevisende samtaler for å manipulere ofrene før de ber om penger. Slike svindler står nå for opptil 80 % av alle tapene.

Generiske modeller har ofte problemer med lokalt tilpassede bedragsteknikker, noe som gjør svindeldeteksjon vanskeligere, står det i kunngjøringen. Google DeepMinds lette Gemma-modell ble finjustert med lokale svindelsamtaler, fra etterligninger av offentlige institusjoner, banker og lokale personer til populære regionale svindelmetoder. Ifølge kunngjøringen gjør dette modellen i stand til å skille harmløs småprat fra reell manipulering. Den resulterende modellen er optimalisert for å kjøre på vanlige smarttelefoner i Singapore.

Behandling på enheten og en pipeline i to trinn

Modellen behandler samtaledata på selve enheten. Tradisjonell trusseldeteksjon skanner meldinger på tjenere i skyen, forklarer kunngjøringen, men mange meldingsplattformer bruker totalstrengkryptering og kan derfor ikke undersøke private samtaler. Ifølge kunngjøringen gjør lokal analyse det mulig å undersøke samtalemønstre raskere for å oppdage manipulerende hensikter, slik at folk kan handle før penger eller påloggingsopplysninger kommer på avveie.

Når modellen oppdager manipulerende samtalemønstre, vises et varsel i sanntid på enheten, som oppfordrer brukeren til å stanse opp før vedkommende deler sensitiv informasjon eller penger.

Ifølge kunngjøringen var batteriforbruket en viktig bekymring ved kjøring av en avansert svindelklassifikator på moderne smarttelefoner. Teamene løste dette med en pipeline i to trinn. I trinn 1 går en lett og effektiv klassifikator gjennom innkommende meldinger med et minimalt strømforbruk, med særlig vekt på å fange opp potensielle trusler. I trinn 2 foretar den finjusterte Gemma-modellen en kontekstuell vurdering av et større utsnitt av samtalen for å bekrefte en trussel eller avvise et falskt alarmvarsel.

Styringstiltak

Samarbeidet ble presentert under Singapore International Cyber Week 2026. Åpningstalen på arrangementet ble holdt 13. oktober 2026 av K Shanmugam, Singapores seniorminister og innenriksminister, ifølge talen som ble publisert av Ministry of Home Affairs.

Kunngjøringen beskriver hvordan strenge styringstiltak ble opprettholdt gjennom hele utviklingen. Tiltakene omtales som «suveren sandkasse», «ingen innbyggerdata» og «stresstesting». Under tiltaket «suveren sandkasse» foregikk finjusteringen i GovTechs administrerte og driftede Google Cloud Platform-miljø, slik at treningsdataene forble isolert. Under tiltaket «ingen innbyggerdata» ble private og personlig identifiserbare opplysninger strengt utelukket fra treningen, som i stedet brukte anonymiserte datasett fra svindelrapporter og etterretningsstrømmer. Under tiltaket «stresstesting» ble modellen testet mot syntetiske dialoger og lokale tekstsamlinger som dekket ulike svindelkategorier og stadig nye metoder for identitetstyveri.

«Kampen mot svindel skal ikke bety at vi må ofre personvernet», sa Mark Chen, direktør for tillit og sikkerhet i GovTech Singapore. «Sammen med Google DeepMind tar vi avansert KI-beskyttelse direkte ut på innbyggernes enheter. Dermed kan vi oppdage svært målrettede, lokale svindelforsøk i sanntid, samtidig som personlig kommunikasjon holdes fullstendig privat.»

Bakgrunn for det nasjonale KI-partnerskapet

Modellen for svindeldeteksjon ble utviklet som del av Googles nasjonale KI-partnerskap med regjeringen i Singapore. Google DeepMind kunngjorde partnerskapet 20. mai 2026 og lanserte nye programmer i landet under initiativet National Partnerships for AI, etter å ha åpnet et forskningslaboratorium i Singapore året før.

Programmene omfatter utforsking av samarbeid mellom KI og klinikere i offentlige helseklynger; støtte til forskning på infeksjonssykdommer og beredskap mot pandemier sammen med Google.org, som er en del av et bidrag på 7 millioner dollar til Health for Human Potential-koalisjonen i Philanthropy Asia Alliance; en Gemma-drevet løpeassistent for blinde idrettsutøvere og idrettsutøvere med nedsatt syn, utviklet og forbedret gjennom testing sammen med SG Enable, Singapores koordinerende organ for funksjonshemning og inkludering; opplæring i agentiske KI-verktøy for vitenskap for lokale forskere, sammen med National Research Foundation; Gemini for Education til lærere fra barneskoler til føruniversitære skoler; og forskning på sikkerhetsreferansetester for multimodale og flerspråklige systemer sammen med Infocomm Media Development Authority og MLCommons.

Muligheter for integrering hos meldings- og operativsystemleverandører

I kunngjøringen heter det at meldingsplattformer og leverandører av operativsystemer kan integrere disse lette modellene direkte for å beskytte brukerne lokalt og holde chattene sikre uten å eksponere private data. Prosjektet presenteres som en modell for hvordan meldingsplattformer kan balansere brukerbeskyttelse med ende-til-ende-kryptering, og som et eksempel på at myndigheter og modellleverandører samarbeider om å utvikle teknologi til samfunnets beste.