Google DeepMind i GovTech prezentują model wykrywający oszustwa bezpośrednio na urządzeniu

Google DeepMind i singapurska Agencja Technologii Rządowych (GovTech) ogłosiły 14 października 2026 r. model wykrywania oszustw działający bezpośrednio na urządzeniu. Ma on ostrzegać użytkowników smartfonów przed manipulacyjnymi rozmowami bez przesyłania prywatnych wiadomości do chmury. W kraju tym od 2019 r. oszustwa spowodowały straty przekraczające 4 mld S$.

Straty spowodowane oszustwami i zwrot ku inżynierii społecznej

Jak wynika z komunikatu na blogu Google DeepMind, którego autorami są JJ Geewax i Miguel de Andrés, oszustwa stanowią ponad połowę zgłaszanych przestępstw w Singapurze i od 2019 r. spowodowały straty przekraczające 4 mld S$. W komunikacie podano, że taktyki stosowane przez oszustów ewoluowały od prostego phishingu do złożonej inżynierii społecznej, w której napastnicy prowadzą wiarygodnie brzmiące rozmowy, by zmanipulować ofiary, a dopiero potem proszą o pieniądze. Tego rodzaju oszustwa odpowiadają obecnie za nawet 80% wszystkich strat.

Jak podano w komunikacie, ogólne modele często nie radzą sobie z lokalnymi technikami oszustwa, co utrudnia ich wykrywanie. Lekki model Gemma firmy Google DeepMind dostrojono na podstawie lokalnych rozmów związanych z oszustwami — od podszywania się pod instytucje publiczne, banki i lokalne osobistości po popularne w regionie schematy. Według komunikatu pozwala to modelowi odróżniać niewinne rozmowy towarzyskie od rzeczywistych prób manipulacji. Powstały model zoptymalizowano do działania na typowych smartfonach w Singapurze.

Przetwarzanie na urządzeniu i dwuetapowy proces

Model przetwarza dane rozmów bezpośrednio na urządzeniu. Jak wyjaśniono w komunikacie, tradycyjne systemy wykrywania zagrożeń analizują wiadomości na serwerach w chmurze, jednak wiele platform komunikacyjnych stosuje szyfrowanie typu end-to-end, które uniemożliwia im analizowanie prywatnych rozmów. Jak podano, lokalne przeprowadzanie analizy umożliwia szybsze badanie wzorców rozmów w celu wykrycia zamiaru manipulacji, dzięki czemu użytkownicy mogą zareagować, zanim dojdzie do strat finansowych lub ujawnienia danych uwierzytelniających.

Gdy model wykryje manipulacyjne wzorce w rozmowie, na urządzeniu pojawia się ostrzeżenie w czasie rzeczywistym, zachęcające użytkownika do wstrzymania się, zanim udostępni poufne informacje lub przekaże pieniądze.

Jak podano w komunikacie, kluczowym wyzwaniem przy uruchamianiu złożonego klasyfikatora wykrywającego oszustwa na współczesnych smartfonach było ograniczenie zużycia baterii. Zespoły rozwiązały ten problem, stosując dwuetapowy proces. W pierwszym etapie lekki i wydajny klasyfikator sprawdza przychodzące wiadomości, zużywając niewiele energii i koncentrując się na wykrywaniu potencjalnych zagrożeń. W drugim etapie dostrojony model Gemma analizuje kontekstowo większy fragment rozmowy, aby potwierdzić zagrożenie lub odrzucić fałszywy alarm.

Środki nadzoru

Współpracę zaprezentowano podczas Singapore International Cyber Week 2026. Jak wynika z wystąpienia opublikowanego przez Ministerstwo Spraw Wewnętrznych, przemówienie otwierające wydarzenie wygłosił 13 października 2026 r. K Shanmugam, starszy minister Singapuru i minister spraw wewnętrznych.

W komunikacie opisano rygorystyczny nadzór utrzymywany na każdym etapie prac, w ramach którego zastosowano rozwiązania nazwane Suwerenną piaskownicą, Brakiem danych obywateli i Testami obciążeniowymi. W ramach Suwerennej piaskownicy dostrajanie odbywało się w zarządzanym i utrzymywanym przez GovTech środowisku Google Cloud Platform, co zapewniało izolację danych treningowych. W ramach Braku danych obywateli w danych treningowych ściśle wykluczono informacje prywatne i umożliwiające identyfikację osób, a wykorzystano zanonimizowane zbiory pochodzące ze zgłoszeń oszustw i źródeł wywiadowczych. W ramach Testów obciążeniowych model sprawdzano za pomocą syntetycznych dialogów i lokalnych zbiorów tekstów obejmujących różne kategorie oszustw oraz ewoluujące taktyki podszywania się pod inne osoby.

„Walka z oszustwami nie powinna oznaczać rezygnacji z prywatności” — powiedział Mark Chen, dyrektor ds. zaufania i bezpieczeństwa w GovTech Singapore. „Wspólnie z Google DeepMind zapewniamy obywatelom zaawansowaną ochronę opartą na sztucznej inteligencji bezpośrednio na ich urządzeniach. Dzięki temu możemy wykrywać wysoce ukierunkowane, lokalne próby oszustwa w czasie rzeczywistym, a jednocześnie całkowicie chronić prywatność osobistej komunikacji”.

Kontekst krajowego partnerstwa w dziedzinie AI

Model wykrywania oszustw powstał w ramach krajowego partnerstwa Google z rządem Singapuru w dziedzinie AI. Google DeepMind ogłosiło to partnerstwo 20 maja 2026 r., uruchamiając w kraju nowe programy w ramach inicjatywy National Partnerships for AI po otwarciu singapurskiego laboratorium badawczego w poprzednim roku.

Programy te obejmują badanie możliwości współpracy z AI jako współklinicystą w publicznych sieciach ochrony zdrowia; wsparcie badań nad chorobami zakaźnymi i przygotowań do pandemii we współpracy z Google.org, będące częścią wkładu w wysokości 7 mln $ na rzecz koalicji Health for Human Potential organizacji Philanthropy Asia Alliance; asystenta biegowego opartego na Gemma dla sportowców niewidomych i słabowidzących, testowanego i udoskonalanego we współpracy z SG Enable, singapurską główną agencją ds. niepełnosprawności i integracji; szkolenia dla lokalnych badaczy z wykorzystania agentowych narzędzi AI w nauce, prowadzone we współpracy z National Research Foundation; udostępnienie Gemini for Education nauczycielom ze szkół podstawowych i junior college; a także badania nad wielomodalnymi i wielojęzycznymi testami porównawczymi bezpieczeństwa we współpracy z Infocomm Media Development Authority i MLCommons.

Możliwości integracji z platformami komunikacyjnymi i dostawcami systemów operacyjnych

Ogłoszenie informuje, że platformy komunikacyjne i dostawcy systemów operacyjnych mogą bezpośrednio integrować te lekkie modele, aby lokalnie chronić użytkowników i zabezpieczać interakcje na czacie bez ujawniania prywatnych danych. Przedstawia projekt jako wzór dla platform komunikacyjnych, które równoważą ochronę użytkowników z szyfrowaniem od końca do końca, oraz jako przykład współpracy rządów i dostawców modeli przy tworzeniu technologii służącej dobru publicznemu.