Google DeepMind a GovTech představují model pro detekci podvodů přímo v zařízení

Google DeepMind a singapurská vládní agentura Government Technology Agency (GovTech) oznámily 14. října 2026 model, který detekuje podvody přímo v zařízení a upozorňuje uživatele chytrých telefonů na manipulativní konverzace, aniž by odesílal soukromé zprávy do cloudu. V zemi přitom podvody od roku 2019 způsobily ztráty přesahující 4 miliardy S$.

Ztráty způsobené podvody a nástup sociálního inženýrství

Podle oznámení na blogu Google DeepMind, jehož autory jsou JJ Geewax a Miguel de Andrés, tvoří podvody více než polovinu nahlášených trestných činů v Singapuru a od roku 2019 způsobily ztráty přesahující 4 miliardy S$. Oznámení uvádí, že podvodníci přešli od jednoduchého phishingu ke složitým metodám sociálního inženýrství. Útočníci při nich navazují přesvědčivé konverzace a manipulují oběťmi, než je požádají o peníze. Tyto podvody nyní podle oznámení způsobují až 80 % všech ztrát.

Obecné modely mají často potíže s místními technikami klamání, což ztěžuje odhalování podvodů, uvádí oznámení. Odlehčený model Gemma od Google DeepMind byl doladěn na místních podvodných konverzacích, které zahrnovaly vydávání se za veřejné instituce, banky i místní osobnosti, stejně jako aktuální regionální podvodné praktiky. Oznámení uvádí, že díky tomu model dokáže rozlišit neškodnou společenskou konverzaci od skutečné manipulace a že výsledný model je optimalizován pro běžné chytré telefony v Singapuru.

Zpracování přímo v zařízení a dvoufázový proces

Model zpracovává data konverzací přímo v zařízení. Běžné systémy detekce hrozeb podle oznámení prohledávají zprávy na cloudových serverech, řada komunikačních platforem však používá koncové šifrování, a nemůže proto kontrolovat soukromé konverzace. Oznámení uvádí, že místní analýza umožňuje rychleji zkoumat vzorce v konverzacích a odhalit záměr manipulovat, takže lidé mohou zasáhnout dříve, než dojde k odhalení finančních údajů nebo přihlašovacích údajů.

Když model odhalí manipulativní vzorce v konverzaci, zobrazí se přímo v zařízení upozornění v reálném čase, které uživatele vyzve, aby se zastavil a rozmyslel si, zda sdílet citlivé informace nebo peníze.

Podle oznámení byla při provozu složitého klasifikátoru podvodů na moderních chytrých telefonech zásadní otázkou úspora energie. Týmy tento problém vyřešily dvoufázovým procesem. V první fázi lehký a úsporný klasifikátor prověřuje příchozí zprávy s minimální spotřebou energie a zaměřuje se na zachycení potenciálních hrozeb. Ve druhé fázi doladěný model Gemma kontextově vyhodnotí větší výřez konverzace, aby hrozbu potvrdil, nebo falešný poplach vyloučil.

Opatření v oblasti správy a řízení

Spolupráce byla představena na konferenci Singapore International Cyber Week 2026. Úvodní projev akce přednesl 13. října 2026 K Shanmugam, singapurský vrchní ministr a ministr vnitra, jak uvádí projev zveřejněný singapurským ministerstvem vnitra.

Oznámení popisuje přísná pravidla správy a řízení, která byla dodržována po celou dobu vývoje a zahrnovala opatření označená jako Suverénní sandbox, Žádná data občanů a Zátěžové testování. V rámci Suverénního sandboxu probíhalo dolaďování v prostředí Google Cloud Platform, které spravuje a udržuje GovTech, takže trénovací data zůstala izolovaná. V rámci opatření Žádná data občanů byla z trénování striktně vyloučena soukromá data i osobní údaje a použity byly anonymizované soubory dat z hlášení o podvodech a zpravodajských informačních kanálů. V rámci Zátěžového testování byl model prověřován na syntetických dialozích a místních korpusech, které zahrnovaly různé kategorie podvodů a vyvíjející se taktiky vydávání se za jiné osoby.

„Boj proti podvodům by neměl znamenat obětování osobního soukromí,“ řekl Mark Chen, ředitel pro důvěru a bezpečnost ve společnosti GovTech Singapore. „Ve spolupráci s Google DeepMind přinášíme pokročilou ochranu založenou na AI přímo do zařízení občanů. Díky tomu můžeme v reálném čase odhalovat vysoce cílené místní podvodné pokusy a zároveň zachovat naprosté soukromí osobní komunikace.“

Souvislosti národního partnerství v oblasti AI

Model pro detekci podvodů vznikl v rámci národního partnerství Googlu se singapurskou vládou v oblasti AI. Google DeepMind oznámil toto partnerství 20. května 2026 a v zemi zahájil nové programy v rámci své iniciativy National Partnerships for AI poté, co tam předchozí rok otevřel výzkumnou laboratoř.

Mezi tyto programy patří zkoumání spolupráce AI s lékaři jako klinického poradce ve veřejných zdravotnických skupinách; podpora výzkumu infekčních nemocí a připravenosti na pandemie ve spolupráci s Google.org, která je součástí příspěvku ve výši 7 milionů dolarů do koalice Health for Human Potential organizace Philanthropy Asia Alliance; běžecký asistent pro nevidomé a slabozraké sportovce využívající Gemma, který byl testován a průběžně zdokonalován ve spolupráci se SG Enable, singapurskou ústřední agenturou pro osoby se zdravotním postižením a inkluzi; školení místních výzkumníků v používání vědeckých nástrojů agentní AI ve spolupráci s National Research Foundation; zpřístupnění Gemini for Education učitelům od základních škol až po vyšší odborné školy; a výzkum multimodálních a vícejazyčných bezpečnostních benchmarků ve spolupráci s Infocomm Media Development Authority a MLCommons.

Možnosti integrace pro poskytovatele komunikačních platforem a operačních systémů

Oznámení uvádí, že platformy pro zasílání zpráv a dodavatelé operačních systémů mohou tyto lehké modely integrovat přímo, aby chránily uživatele lokálně a zabezpečily chatovou komunikaci, aniž by odhalovaly soukromá data. Projekt představuje jako vzor pro platformy pro zasílání zpráv, které hledají rovnováhu mezi ochranou uživatelů a koncovým šifrováním, a také jako příklad spolupráce vlád a poskytovatelů modelů na vývoji technologií ku prospěchu veřejnosti.