Google DeepMind и GovTech представили модель для выявления мошенничества непосредственно на устройстве

Google DeepMind и Агентство по государственным технологиям Сингапура (GovTech) 14 октября 2026 года объявили о создании модели для выявления мошенничества непосредственно на устройстве. Она призвана предупреждать пользователей смартфонов о манипулятивных беседах, не передавая личные сообщения в облако. С 2019 года мошенничество в стране привело к убыткам на сумму более S$4 млрд.

Убытки от мошенничества и переход к социальной инженерии

Как говорится в сообщении в блоге Google DeepMind, авторами которого стали JJ Geewax и Miguel de Andrés, на мошенничество приходится более половины зарегистрированных в Сингапуре преступлений, а с 2019 года оно привело к убыткам на сумму более S$4 млрд. В сообщении говорится, что мошенники перешли от простого фишинга к сложным методам социальной инженерии: злоумышленники выстраивают убедительные беседы, чтобы манипулировать жертвами, прежде чем попросить у них деньги. Теперь на такие схемы приходится до 80% всех убытков.

Как отмечается в сообщении, универсальным моделям часто трудно распознавать локальные методы обмана, что усложняет выявление мошенничества. Лёгкую модель Gemma от Google DeepMind дообучили на примерах местных мошеннических бесед — от случаев выдачи себя за государственные учреждения, банки и известных местных жителей до популярных в регионе схем. По данным сообщения, благодаря этому модель может отличать безобидное общение от попыток манипуляции. Полученную модель оптимизировали для работы на обычных смартфонах в Сингапуре.

Обработка непосредственно на устройстве и двухэтапный конвейер

Модель обрабатывает данные беседы непосредственно на устройстве. Как поясняется в сообщении, традиционные системы обнаружения угроз сканируют сообщения на облачных серверах, однако многие платформы для обмена сообщениями используют сквозное шифрование и поэтому не могут анализировать личные беседы. Локальная обработка позволяет быстрее изучать модели общения и выявлять намерение манипулировать собеседником, чтобы люди могли принять меры до того, как пострадают их деньги или учётные данные.

Когда модель обнаруживает манипулятивные модели общения, на устройстве появляется предупреждение в реальном времени с призывом остановиться, прежде чем делиться конфиденциальной информацией или деньгами.

Как говорится в сообщении, одной из главных проблем при запуске сложной модели классификации мошеннических схем на современных смартфонах было энергопотребление. Команды решили эту проблему с помощью двухэтапного конвейера. На первом этапе лёгкий и эффективный классификатор проверяет входящие сообщения, расходуя минимум энергии и выявляя потенциальные угрозы. На втором этапе дообученная модель Gemma анализирует контекст более обширного фрагмента беседы, чтобы подтвердить наличие угрозы или отбросить ложное срабатывание.

Меры управления и контроля

О сотрудничестве рассказали на Singapore International Cyber Week 2026. По данным обращения, опубликованного Министерством внутренних дел, церемонию открытия мероприятия 13 октября 2026 года провёл K Shanmugam, старший министр Сингапура и министр внутренних дел.

В сообщении говорится, что на всех этапах разработки соблюдались строгие меры управления и контроля, обозначенные как «Суверенная песочница», «Никаких данных граждан» и «Стресс-тестирование». В рамках меры «Суверенная песочница» дообучение проводилось в управляемой и обслуживаемой GovTech среде Google Cloud Platform, что обеспечивало изоляцию обучающих данных. В соответствии с мерой «Никаких данных граждан» при обучении строго исключались личные и позволяющие установить личность сведения; использовались анонимизированные наборы данных, составленные на основе сообщений о мошенничестве и потоков аналитической информации. В рамках «Стресс-тестирования» модель проверяли на синтетических диалогах и местных корпусах данных, охватывающих различные категории мошенничества и меняющиеся тактики выдачи себя за других.

«Борьба с мошенничеством не должна требовать отказа от личной конфиденциальности, — заявил Mark Chen, директор по вопросам доверия и безопасности в GovTech Singapore. — Вместе с Google DeepMind мы внедряем передовые средства защиты на основе ИИ непосредственно на устройства граждан. Это позволяет нам в реальном времени выявлять тщательно нацеленные местные мошеннические схемы, сохраняя личную переписку полностью конфиденциальной».

Предыстория национального партнёрства в области ИИ

Модель для выявления мошенничества разработали в рамках национального партнёрства Google с правительством Сингапура в области ИИ. Google DeepMind объявила об этом партнёрстве 20 мая 2026 года, запустив в стране новые программы в рамках инициативы National Partnerships for AI после открытия исследовательской лаборатории в Сингапуре годом ранее.

В число этих программ входят изучение сотрудничества врачей с ИИ-помощником в рамках кластеров общественного здравоохранения; поддержка исследований инфекционных заболеваний и готовности к пандемиям совместно с Google.org — в рамках взноса в размере $7 млн в коалицию Health for Human Potential организации Philanthropy Asia Alliance; создание помощника для бега на базе Gemma для незрячих спортсменов и спортсменов с нарушениями зрения, протестированного и доработанного совместно с SG Enable, главным агентством Сингапура по вопросам инвалидности и инклюзии; обучение местных исследователей работе с научными инструментами на базе агентного ИИ при участии National Research Foundation; предоставление Gemini for Education преподавателям начальных школ и колледжей предуниверситетского уровня; а также исследования мультимодальных и многоязычных критериев оценки безопасности совместно с Infocomm Media Development Authority и MLCommons.

Путь к интеграции для платформ обмена сообщениями и поставщиков операционных систем

В сообщении говорится, что платформы для обмена сообщениями и поставщики операционных систем могут напрямую интегрировать эти легковесные модели, чтобы защищать пользователей непосредственно на устройствах и обеспечивать безопасность переписки, не раскрывая личные данные. Проект представлен как образец для платформ обмена сообщениями, стремящихся сочетать защиту пользователей со сквозным шифрованием, а также как пример сотрудничества правительств и разработчиков моделей при создании технологий на благо общества.