Google DeepMind 与 GovTech 发布端侧诈骗检测模型

Google DeepMind 与新加坡政府科技局（GovTech）于2026年10月14日宣布推出一款端侧诈骗检测模型，旨在提醒智能手机用户警惕具有操纵性的对话，而无需将私人消息发送到云端。在新加坡，自2019年以来，诈骗造成的损失已超过40亿新元。

诈骗损失与转向社会工程

据Google DeepMind 博客上的公告（作者为 JJ Geewax 和 Miguel de Andrés）称，诈骗占新加坡已报告犯罪案件的一半以上，自2019年以来造成的损失已超过40亿新元。公告称，诈骗手法已从简单的网络钓鱼转向复杂的社会工程：攻击者先通过看似可信的对话操纵受害者，再索要钱财；此类诈骗目前造成的损失占比高达80%。

公告指出，通用模型往往难以应对本地化的欺骗手法，使诈骗检测更加困难。Google DeepMind 的轻量级 Gemma 模型经过本地诈骗对话微调，训练内容涵盖冒充公共机构、银行和本地知名人士，以及不断流行的区域性诈骗手法。公告称，这使模型能够区分无害的社交闲聊与真正的操纵行为；最终模型经过优化，可在新加坡常见的智能手机上运行。

端侧处理与两阶段流程

该模型直接在设备上处理对话数据。公告解释说，传统的威胁检测会在云端服务器上扫描消息，但许多消息平台采用端到端加密，因此无法检查私人对话。公告还指出，在本地运行分析可更快地检查对话模式、识别操纵意图，让人们能够在财务信息或账户凭据泄露之前采取行动。

当模型检测到具有操纵性的对话模式时，设备会实时发出警告，提醒用户在分享敏感信息或转账之前先暂停一下。

公告称，如何在现代智能手机上运行复杂的诈骗分类器，同时确保电池续航效率，是一项关键考量。团队通过两阶段流程解决了这一问题。第一阶段，轻量、高效的分类器以极低的功耗筛查收到的消息，重点识别潜在威胁。第二阶段，经过微调的 Gemma 模型会结合上下文评估更大范围的对话内容，以确认威胁或排除误报。

治理措施

这项合作在2026年新加坡国际网络周上发布。根据新加坡内政部发布的致辞，活动开幕致辞于2026年10月13日由新加坡高级部长兼内政部长 K Shanmugam 发表。

公告称，整个开发过程中都实行严格治理，具体措施包括“主权沙盒”“不使用公民数据”和“压力测试”。在“主权沙盒”措施下，微调工作在由 GovTech 管理和维护的 Google Cloud Platform 环境中进行，训练数据也因此得到隔离。在“不使用公民数据”措施下，训练严格排除私人信息或个人身份信息，并使用来自诈骗报告和情报信息源的匿名数据集。在“压力测试”措施下，模型接受了合成对话和本地语料库测试，覆盖多种诈骗类别以及不断演变的冒充手法。

“打击诈骗不应以牺牲个人隐私为代价，”GovTech Singapore 信任与安全总监 Mark Chen 表示。“我们正与 Google DeepMind 合作，将先进的 AI 防护直接部署到公民的设备上。这样，我们就能实时发现针对性极强的本地诈骗，同时确保个人通信完全保密。”

国家人工智能合作背景

这款诈骗检测模型是 Google 与新加坡政府“国家人工智能合作伙伴关系”的一部分。Google DeepMind 于2026年5月20日宣布了这项合作，并在其“国家人工智能合作伙伴计划”倡议下于新加坡启动了新项目；此前一年，Google DeepMind 已在当地开设研究实验室。

这些项目包括：探索 AI 临床协作医生与公共卫生集群开展协作；与 Google.org 合作支持传染病研究和疫情防范，这是向 Philanthropy Asia Alliance 的“健康赋能潜能”联盟提供的700万美元捐款的一部分；开发由 Gemma 提供支持、面向失明及低视力运动员的跑步助手，并与新加坡残障与融合事务主管机构 SG Enable 共同测试和迭代；与 National Research Foundation 合作，为本地研究人员提供智能体 AI 科学工具培训；向从小学到初级学院的教育工作者提供 Gemini for Education；以及与新加坡资讯通信媒体发展局和 MLCommons 合作，研究多模态和多语言安全基准。

消息平台与操作系统供应商的集成路径

公告称，消息平台和操作系统供应商可以直接集成这些轻量级模型，在本地保护用户安全，确保聊天互动安全，同时不暴露私人数据。公告将该项目视为消息平台在保护用户与实施端到端加密之间取得平衡的范例，也视为政府与模型提供商合作开发造福公众的技术的实例。