Google DeepMind ja GovTech esittelevät laitteessa toimivan huijaustentunnistusmallin

Google DeepMind ja Singaporen hallituksen teknologiavirasto (GovTech) ilmoittivat 14. lokakuuta 2026 laitteessa toimivasta huijaustentunnistusmallista, joka varoittaa älypuhelinten käyttäjiä manipuloivista keskusteluista lähettämättä yksityisviestejä pilveen. Singaporessa huijaukset ovat aiheuttaneet yli 4 miljardin Singaporen dollarin (S$) menetykset vuodesta 2019 lähtien.

Huijaustappiot ja siirtyminen sosiaaliseen manipulointiin

Google DeepMindin blogissa julkaistun ilmoituksen mukaan huijaukset muodostavat yli puolet Singaporessa ilmoitetuista rikoksista ja ovat aiheuttaneet yli 4 miljardin Singaporen dollarin (S$) menetykset vuodesta 2019 lähtien. JJ Geewaxin ja Miguel de Andrésin kirjoittamassa ilmoituksessa kerrotaan, että huijaustaktiikat ovat muuttuneet yksinkertaisesta tietojenkalastelusta monimutkaiseksi sosiaaliseksi manipuloinniksi. Siinä hyökkääjät rakentavat uskottavia keskusteluja manipuloidakseen uhreja ennen kuin pyytävät heiltä rahaa. Tällaisten huijausten osuus kaikista menetyksistä on nyt jopa 80 prosenttia.

Yleiskäyttöisillä malleilla on usein vaikeuksia paikallisiin oloihin mukautettujen huijaustekniikoiden tunnistamisessa, mikä hankaloittaa huijausten havaitsemista, ilmoituksessa todetaan. Google DeepMindin kevyt Gemma-malli hienosäädettiin paikallisten huijauskeskustelujen avulla. Aineisto kattoi julkisten laitosten, pankkien ja paikallisten tunnettujen henkilöiden nimissä esiintymisen sekä alueella yleistyvät huijaustavat. Ilmoituksen mukaan hienosäätö auttaa mallia erottamaan harmittoman arkisen jutustelun aidosta manipuloinnista, ja lopputulos on optimoitu toimimaan tavanomaisissa älypuhelimissa Singaporessa.

Laitteessa tapahtuva käsittely ja kaksivaiheinen käsittelyketju

Malli käsittelee keskustelutiedot itse laitteessa. Perinteisessä uhkien tunnistuksessa viestejä tarkastetaan pilvipalvelimilla, ilmoituksessa kerrotaan, mutta monet viestipalvelut käyttävät päästä päähän -salausta eivätkä siksi voi tarkastella yksityisiä keskusteluja. Ilmoituksen mukaan analyysin suorittaminen paikallisesti nopeuttaa keskustelun rakenteiden tarkastelua manipuloivan tarkoitusperän havaitsemiseksi, jolloin ihmiset voivat toimia ennen taloudellisten menetysten tai kirjautumistietojen vaarantumista.

Kun malli havaitsee keskustelussa manipuloivia piirteitä, laitteeseen ilmestyy reaaliaikainen varoitus, jossa käyttäjää kehotetaan pysähtymään ennen arkaluonteisten tietojen tai rahan jakamista.

Ilmoituksen mukaan monimutkaisen huijaustunnistimen käyttäminen nykyaikaisissa älypuhelimissa edellyttää erityistä huomiota akun kulutukseen. Tiimit ratkaisivat haasteen kaksivaiheisella käsittelyketjulla. Ensimmäisessä vaiheessa kevyt ja tehokas luokitin käy saapuvat viestit läpi vähäisellä virrankulutuksella ja keskittyy mahdollisten uhkien havaitsemiseen. Toisessa vaiheessa hienosäädetty Gemma-malli arvioi asiayhteyttä laajemmasta keskustelun otteesta ja joko vahvistaa uhan tai hylkää väärän hälytyksen.

Hallintatoimet

Yhteistyö esiteltiin Singapore International Cyber Week 2026 -tapahtumassa. Tapahtuman avajaispuheen piti 13. lokakuuta 2026 Singaporen vanhempi ministeri ja sisäministeri K Shanmugam, sisäministeriön julkaisemassa puheessa kerrotaan.

Ilmoituksen mukaan kehitystyötä ohjasivat tiukat hallintakäytännöt, joita kuvattiin nimillä suvereniteettihiekkalaatikko, ei kansalaistietoja ja stressitestaus. Suvereniteettihiekkalaatikon mukaisesti hienosäätö tehtiin GovTechin hallinnoimassa ja ylläpitämässä Google Cloud Platform -ympäristössä, jotta koulutusdata pysyi erillään. Ei kansalaistietoja -käytännön mukaisesti koulutuksessa ei käytetty lainkaan yksityisiä tai henkilökohtaisesti tunnistettavia tietoja, vaan aineistona olivat huijausilmoituksista ja tiedustelusyötteistä kootut anonymisoidut tietojoukot. Stressitestauksessa mallia testattiin synteettisillä keskusteluilla ja paikallisilla aineistoilla, jotka kattoivat monenlaisia huijaustyyppejä ja muuttuvia toisena henkilönä esiintymisen menetelmiä.

”Huijausten torjumisen ei pitäisi tarkoittaa henkilökohtaisesta yksityisyydestä tinkimistä”, sanoi GovTech Singaporen luottamuksesta ja turvallisuudesta vastaava johtaja Mark Chen. ”Tuomme yhdessä Google DeepMindin kanssa edistyksellisen tekoälysuojan suoraan kansalaisten laitteisiin. Näin voimme havaita erittäin kohdennetut paikalliset huijausyritykset reaaliajassa ja pitää samalla henkilökohtaisen viestinnän täysin yksityisenä.”

Taustaa kansallisesta tekoälykumppanuudesta

Huijaustunnistusmalli toimitettiin osana Googlen ja Singaporen hallituksen kansallista tekoälykumppanuutta. Google DeepMind ilmoitti kumppanuudesta 20. toukokuuta 2026 ja käynnisti maassa uusia ohjelmia National Partnerships for AI -aloitteensa puitteissa. Tätä edellisenä vuonna yhtiö oli avannut Singaporeen tutkimuslaboratorion.

Ohjelmiin kuuluu tekoälyä hyödyntävän rinnakkaiskliinikon ja terveydenhuollon ammattilaisten yhteistyön selvittäminen julkisen terveydenhuollon klustereissa; tartuntatautitutkimuksen ja pandemioihin varautumisen tukeminen yhdessä Google.orgin kanssa osana 7 miljoonan dollarin lahjoitusta Philanthropy Asia Alliancen Health for Human Potential -yhteenliittymälle; Gemma-malliin perustuva juoksuavustaja näkövammaisille ja heikkonäköisille urheilijoille, jota kehitettiin ja testattiin yhteistyössä SG Enablen kanssa, joka on Singaporen keskeinen vammaisasioiden ja osallisuuden edistämisestä vastaava virasto; paikallisten tutkijoiden kouluttaminen agenttiseen tekoälyyn perustuvien tieteen työkalujen käyttöön yhdessä National Research Foundationin kanssa; Gemini for Educationin tarjoaminen opettajille alakouluista lukioihin; sekä monimuotoisten ja monikielisten turvallisuusvertailuarvojen tutkiminen Infocomm Media Development Authorityn ja MLCommonsin kanssa.

Viestipalvelu- ja käyttöjärjestelmätoimittajien integrointimahdollisuudet

Ilmoituksessa todetaan, että viestialustat ja käyttöjärjestelmätoimittajat voivat integroida nämä kevyet mallit suoraan suojatakseen käyttäjiä paikallisesti ja pitääkseen keskustelut turvassa paljastamatta yksityisiä tietoja. Hanketta kuvataan malliksi viestialustoille, jotka pyrkivät tasapainottamaan käyttäjien suojelun ja päästä päähän -salauksen, sekä esimerkiksi siitä, miten hallitukset ja mallien tarjoajat voivat tehdä yhteistyötä yleistä etua palvelevan teknologian kehittämiseksi.