Google DeepMind și GovTech prezintă un model de detectare a escrocheriilor direct pe dispozitiv

Google DeepMind și Agenția pentru Tehnologie Guvernamentală din Singapore (GovTech) au anunțat, la 14 octombrie 2026, un model de detectare a escrocheriilor care rulează direct pe dispozitiv. Acesta este conceput să avertizeze utilizatorii de smartphone-uri cu privire la conversațiile manipulative, fără a trimite mesajele private în cloud, într-o țară în care escrocheriile au provocat pierderi de peste 4 miliarde S$ din 2019.

Pierderile cauzate de escrocherii și trecerea la ingineria socială

Potrivit anunțului de pe blogul Google DeepMind, semnat de JJ Geewax și Miguel de Andrés, escrocheriile reprezintă peste jumătate dintre infracțiunile raportate în Singapore și au provocat pierderi de peste 4 miliarde S$ din 2019. Anunțul precizează că metodele de înșelăciune au evoluat de la simple atacuri de tip phishing la forme complexe de inginerie socială, în care atacatorii poartă conversații convingătoare pentru a-și manipula victimele înainte de a le cere bani, iar astfel de escrocherii provoacă acum până la 80% din totalul pierderilor.

Modelele generice întâmpină adesea dificultăți în a recunoaște tehnicile de înșelăciune specifice regiunii, ceea ce îngreunează detectarea escrocheriilor, precizează anunțul. Modelul ușor Gemma de la Google DeepMind a fost ajustat cu conversații locale asociate escrocheriilor, de la uzurparea identității unor instituții publice, bănci și personalități locale până la scheme regionale aflate în tendințe. Potrivit anunțului, astfel modelul poate distinge conversațiile sociale inofensive de manipularea reală, iar modelul rezultat este optimizat să ruleze pe smartphone-uri obișnuite din Singapore.

Procesare direct pe dispozitiv și o succesiune de două etape

Modelul procesează datele conversațiilor chiar pe dispozitiv. Anunțul explică faptul că metodele convenționale de detectare a amenințărilor analizează mesajele pe servere din cloud, însă multe platforme de mesagerie folosesc criptarea integrală, astfel că nu pot inspecta conversațiile private. Potrivit anunțului, analiza locală permite examinarea mai rapidă a tiparelor conversaționale pentru a detecta intențiile manipulative, astfel încât oamenii să poată acționa înainte ca datele financiare sau cele de autentificare să fie expuse.

Când modelul detectează tipare conversaționale manipulative, pe dispozitiv apare o avertizare în timp real, care îndeamnă utilizatorul să se oprească înainte de a divulga informații sensibile sau de a trimite bani.

Potrivit anunțului, eficiența energetică a fost o preocupare esențială pentru rularea unui clasificator complex de escrocherii pe smartphone-urile moderne. Echipele au abordat problema printr-un proces în două etape. În etapa 1, un clasificator ușor și eficient verifică mesajele primite, consumând foarte puțină energie și concentrându-se pe identificarea amenințărilor potențiale. În etapa 2, modelul Gemma ajustat analizează contextul într-un fragment mai amplu al conversației, pentru a confirma o amenințare sau a respinge o alertă falsă.

Măsuri de guvernanță

Colaborarea a fost prezentată în cadrul Singapore International Cyber Week 2026. Discursul de deschidere al evenimentului a fost susținut la 13 octombrie 2026 de K Shanmugam, ministrul principal al Singapore și ministrul afacerilor interne, potrivit discursului publicat de Ministerul Afacerilor Interne.

Anunțul descrie măsurile stricte de guvernanță menținute pe tot parcursul dezvoltării, denumite „Sandbox suveran”, „Fără date ale cetățenilor” și „Testare la stres”. În cadrul măsurii „Sandbox suveran”, ajustarea modelului a avut loc în mediul Google Cloud Platform administrat și întreținut de GovTech, datele de antrenare fiind astfel păstrate izolat. În cadrul măsurii „Fără date ale cetățenilor”, antrenarea a exclus în mod strict informațiile private sau care permit identificarea personală și a folosit seturi de date anonimizate, provenite din rapoarte despre escrocherii și fluxuri de informații operative. În cadrul măsurii „Testare la stres”, modelul a fost testat cu dialoguri sintetice și corpusuri locale care acoperă categorii diverse de escrocherii și tactici de uzurpare a identității aflate în continuă schimbare.

„Combaterea escrocheriilor nu ar trebui să însemne sacrificarea vieții private”, a declarat Mark Chen, director pentru încredere și siguranță la GovTech Singapore. „Împreună cu Google DeepMind, aducem protecție avansată bazată pe IA direct pe dispozitivele cetățenilor. Astfel, putem detecta în timp real tentativele de escrocherie locale, foarte bine țintite, păstrând în același timp confidențialitatea deplină a comunicațiilor personale.”

Contextul parteneriatului național în domeniul IA

Modelul de detectare a escrocheriilor a fost dezvoltat în cadrul parteneriatului național în domeniul IA dintre Google și Guvernul Singapore. Google DeepMind a anunțat parteneriatul la 20 mai 2026, lansând în țară noi programe în cadrul inițiativei sale National Partnerships for AI, după ce deschisese un laborator de cercetare în Singapore în anul precedent.

Programele includ explorarea colaborării dintre IA și personalul medical în cadrul clusterelor de sănătate publică; sprijinirea cercetării bolilor infecțioase și a pregătirii pentru pandemii, împreună cu Google.org, ca parte a unei contribuții de 7 milioane de dolari la coaliția Health for Human Potential a Philanthropy Asia Alliance; un asistent pentru alergare bazat pe Gemma, destinat sportivilor nevăzători și cu vedere slabă, testat și îmbunătățit în colaborare cu SG Enable, agenția de referință din Singapore pentru dizabilitate și incluziune; instruirea cercetătorilor locali în utilizarea instrumentelor științifice de IA agentică, împreună cu National Research Foundation; punerea la dispoziția cadrelor didactice, de la școlile primare până la colegiile preuniversitare, a serviciului Gemini for Education; și cercetarea privind criteriile de evaluare a siguranței multimodale și multilingve, împreună cu Infocomm Media Development Authority și MLCommons.

Modalități de integrare pentru furnizorii de platforme de mesagerie și sisteme de operare

Anunțul precizează că platformele de mesagerie și furnizorii de sisteme de operare pot integra direct aceste modele compacte pentru a proteja utilizatorii la nivel local, păstrând conversațiile în siguranță fără a expune datele private. Proiectul este prezentat drept un model pentru platformele de mesagerie care caută să echilibreze protecția utilizatorilor cu criptarea integrală și drept un exemplu de colaborare între guverne și furnizorii de modele pentru dezvoltarea unei tehnologii în folosul publicului.