Google DeepMind e GovTech presentano un modello di rilevamento delle truffe direttamente sui dispositivi

Google DeepMind e la Government Technology Agency of Singapore (GovTech) hanno annunciato il 14 ottobre 2026 un modello di rilevamento delle truffe direttamente sui dispositivi, progettato per avvisare gli utenti di smartphone in caso di conversazioni manipolatorie senza inviare i messaggi privati al cloud, in un Paese in cui le truffe hanno causato perdite per oltre 4 miliardi di S$ dal 2019.

Le perdite dovute alle truffe e il passaggio all’ingegneria sociale

Secondo l’annuncio sul blog di Google DeepMind, a firma di JJ Geewax e Miguel de Andrés, le truffe rappresentano oltre la metà dei reati denunciati a Singapore e hanno causato perdite per oltre 4 miliardi di S$ dal 2019. L’annuncio spiega che le tattiche dei truffatori sono passate dal semplice phishing a forme complesse di ingegneria sociale, in cui gli aggressori instaurano conversazioni convincenti per manipolare le vittime prima di chiedere denaro, e che queste truffe rappresentano ormai fino all’80% delle perdite complessive.

Come spiega l’annuncio, spesso i modelli generici faticano a riconoscere le tecniche di inganno adattate al contesto locale, rendendo più difficile individuare le truffe. Il modello leggero Gemma di Google DeepMind è stato ottimizzato con conversazioni locali legate a truffe, che spaziano dalle impersonificazioni di istituzioni pubbliche, banche e personaggi locali alle truffe regionali di tendenza. L’annuncio afferma che ciò consente al modello di distinguere le innocue chiacchiere sui social dai tentativi effettivi di manipolazione e che il modello così ottenuto è ottimizzato per funzionare sui comuni smartphone utilizzati a Singapore.

Elaborazione direttamente sul dispositivo e pipeline in due fasi

Il modello elabora i dati delle conversazioni direttamente sul dispositivo. Come spiega l’annuncio, i sistemi convenzionali di rilevamento delle minacce esaminano i messaggi su server cloud, ma molte piattaforme di messaggistica utilizzano la crittografia end-to-end e non possono quindi ispezionare le conversazioni private. Secondo l’annuncio, eseguire l’analisi localmente consente di esaminare più rapidamente gli schemi delle conversazioni per rilevare intenti manipolatori, così che le persone possano agire prima che siano esposte informazioni finanziarie o credenziali.

Quando il modello rileva schemi manipolatori nella conversazione, sul dispositivo compare un avviso in tempo reale che invita l’utente a fermarsi un momento prima di condividere informazioni sensibili o denaro.

Secondo l’annuncio, il consumo della batteria era una preoccupazione fondamentale per l’esecuzione di un classificatore complesso di truffe sugli smartphone moderni. I team hanno affrontato il problema con una pipeline in due fasi. Nella fase 1, un classificatore leggero ed efficiente esamina i messaggi in arrivo consumando pochissima energia e concentrandosi sull’individuazione di potenziali minacce. Nella fase 2, il modello Gemma ottimizzato valuta il contesto di una porzione più ampia della conversazione per confermare una minaccia o scartare un falso allarme.

Misure di governance

La collaborazione è stata presentata alla Singapore International Cyber Week 2026. Il discorso di apertura dell’evento è stato pronunciato il 13 ottobre 2026 da K Shanmugam, ministro anziano di Singapore e ministro degli Affari interni, secondo il discorso pubblicato dal Ministry of Home Affairs.

L’annuncio descrive le rigorose misure di governance adottate durante tutto lo sviluppo, denominate «ambiente di sperimentazione sovrano», «nessun dato dei cittadini» e «prove di stress». Nell’ambito dell’«ambiente di sperimentazione sovrano», l’ottimizzazione è stata eseguita all’interno dell’ambiente Google Cloud Platform gestito e mantenuto da GovTech, mantenendo isolati i dati di addestramento. In base al principio «nessun dato dei cittadini», l’addestramento ha escluso rigorosamente informazioni private o personali identificabili e ha utilizzato set di dati anonimizzati provenienti da segnalazioni di truffe e flussi di intelligence. Per le «prove di stress», il modello è stato testato con dialoghi sintetici e raccolte di dati locali che coprivano diverse categorie di truffe e tattiche di impersonificazione in evoluzione.

«Combattere le truffe non dovrebbe significare sacrificare la privacy personale», ha dichiarato Mark Chen, direttore della sezione Trust and Safety di GovTech Singapore. «Insieme a Google DeepMind, portiamo una protezione avanzata basata sull’IA direttamente sui dispositivi dei cittadini. Questo ci consente di individuare in tempo reale tentativi di truffa altamente mirati e locali, mantenendo completamente private le comunicazioni personali».

Contesto del partenariato nazionale per l’IA

Il modello di rilevamento delle truffe è stato realizzato nell’ambito del partenariato nazionale per l’IA tra Google e il governo di Singapore. Il 20 maggio 2026 Google DeepMind ha annunciato il partenariato, avviando nel Paese nuovi programmi nell’ambito dell’iniziativa National Partnerships for AI, dopo aver aperto un laboratorio di ricerca a Singapore l’anno precedente.

I programmi comprendono l’esplorazione della collaborazione tra IA e co-clinici nei poli sanitari pubblici; il sostegno alla ricerca sulle malattie infettive e alla preparazione alle pandemie insieme a Google.org, parte di un contributo di 7 milioni di dollari alla coalizione Health for Human Potential della Philanthropy Asia Alliance; un assistente per la corsa basato su Gemma, destinato ad atleti ciechi e ipovedenti, testato e perfezionato insieme a SG Enable, l’agenzia di riferimento di Singapore per la disabilità e l’inclusione; la formazione di ricercatori locali sull’uso di strumenti scientifici di IA agentica con la National Research Foundation; la messa a disposizione di Gemini for Education per insegnanti, dalle scuole primarie ai junior college; e la ricerca su benchmark di sicurezza multimodali e multilingue con la Infocomm Media Development Authority e MLCommons.

Percorso di integrazione per i fornitori di piattaforme di messaggistica e sistemi operativi

L’annuncio afferma che le piattaforme di messaggistica e i fornitori di sistemi operativi possono integrare direttamente questi modelli leggeri per proteggere gli utenti sui loro dispositivi, mantenendo sicure le conversazioni senza esporre dati privati. Presenta il progetto come un modello per le piattaforme di messaggistica che cercano di conciliare la protezione degli utenti con la crittografia end-to-end e come un esempio di collaborazione tra governi e fornitori di modelli per sviluppare tecnologie al servizio del bene pubblico.