新加坡与 Google 用端侧 Gemma 识别对话式诈骗

新加坡政府科技局（GovTech）与 Google DeepMind 周三宣布了一个面向 Android 手机微调的 Gemma 模型，完全在设备上分析对话内容，不向外部服务器发送任何数据。该系统由数码发展及新闻部长杨莉明在 2026 年新加坡国际网络周上揭晓，瞄准的是一类被证明在结构上对现有防御免疫的欺诈：通过长时间私下对话、而非恶意链接或假网站构建的社交工程诈骗。

无论以什么尺度衡量，新加坡的诈骗问题都很严重。该国自 2019 年以来记录的诈骗相关损失超过 40 亿新元，诈骗如今占所有报案犯罪的一半以上。这个数字尤其值得注意的是，约 80% 的损失归因于社交工程欺诈 —— 诈骗者冒充银行代表、政府官员或本地权威人士，通过多条消息编织可信的叙事、制造紧迫感，最终说服受害者转账或交出凭证。这类诈骗不含恶意 URL、没有异常附件、没有可检测的代码特征。在技术层面，它们与正常对话无法区分 —— 这正是此前部署的每一套反诈系统都对它们束手无策的原因。

为什么短信过滤和网址拦截挡不住对话式欺诈

新加坡已经运营着一套分层的反诈基础设施。由 GovTech 和新加坡警察部队建造的诈骗分析与战术干预系统 SATIS每天扫描 60 多万个网站，每月下架约 2 万个恶意页面。由政府 Open Government Products 团队开发的面向消费者的 ScamShield 应用，在网络层面过滤可疑短信和来电。另一套 rMSE 系统扫描网络资产以发现新出现的威胁。GovTech 还是全球第一个加入Global Signal Exchange的政府机构 —— 这是一个由 Google、Oxford Information Labs Research 和全球反诈联盟共同发起的实时威胁情报平台，跟踪 4 亿多个威胁信号，成员包括 Meta 和微软。

这些系统都做不到的，是读取一段 WhatsApp 或 Telegram 对话。网络层面的短信过滤能看到消息元数据，在某些情况下还能看到未加密短信的正文，但对话式诈骗这一类别已基本迁移到端到端加密的即时通讯应用，在那里没有任何外部系统 —— 运营商、政府服务器、云 API 都不行 —— 能检查内容。唯一能检视加密对话的计算环境是设备本身。这一架构现实正是 GovTech 与 Google DeepMind 项目的立足点。

围绕电量与隐私约束构建的两级流水线

该检测系统使用一条专为应对移动硬件相互冲突的约束而设计的两级端侧流水线：既要廉价地筛查大量消息，又要把计算昂贵的 LLM 推理留给值得的案例。

第一级是一个持续监控传入消息的轻量分类器。它为功耗效率和低延迟而优化，本身作为分诊层而非检测系统发挥作用。当分类器识别出一段对话符合可疑互动的模式 —— 不断升级的个人信息索取、施压手法、冒充线索 —— 它会把相关的对话快照转交给第二级。

第二级是一个微调过的 Gemma 模型，Gemma 是 Google DeepMind 的开放权重模型家族，其设计部分面向边缘和移动端部署。轻量分类器寻找的是单个信号特征，而 Gemma 模型分析的是对话的完整弧线：消息的序列、各方扮演的角色、索取随时间的升级，以及用来压制接收者怀疑的修辞手法。当模型以足够置信度识别出操纵模式时，它会向用户弹出实时警告 —— 提示在分享钱款或凭证之前先停下来重新考虑。

这种流水线设计之所以重要，是因为它直接回应了历来限制端侧 AI 安全工具的电量消耗质疑。对每条传入消息都跑一遍完整的 LLM 推理，在智能手机上代价过高。先插入一个廉价的门控阶段，系统就能确保 Gemma 模型只对一小部分消息触发：那些已经越过较低成本可疑阈值的消息。

在新加坡的主权沙箱里训练

该模型在 GovTech 所称的主权沙箱内微调 —— 一个由新加坡 GovTech 配置和管理的 Google Cloud 环境，来自新加坡本地诈骗语料的训练数据在其中保持在新加坡的运营控制之下。Google 提供 Gemma 基础权重和云基础设施；GovTech 保有训练数据和最终微调模型的保管权。完整的治理细节见 Google DeepMind 的公告。

这一设计反映了一种让东南亚各国政府采用 AI 变得复杂的张力：前沿模型能力集中在少数美国和中国科技公司手中，但让这些模型对本国执法和公共安全应用有用所需的数据，在政治和法律上都很敏感。主权沙箱模式穿过了这根针：它让 GovTech 能够提供本地收集的、匿名化的诈骗数据 —— 取自警方报告和情报来源，剔除所有个人可识别信息 —— 而这些数据集不会进入 Google 的通用训练基础设施。

GovTech 信任与安全总监 Mark Chen 直接点出了设计理念：「打击诈骗不应以牺牲个人隐私为代价。」这句话既概括了一个产品约束，也概括了一个政治约束。新加坡面临过关于国家监控工具扩张的公共争论，任何需要把私人消息经由政府服务器的反诈系统都会遭遇显著阻力。端侧方案绕开了这一反对：Google 和 GovTech 都无法访问模型分析的对话，因为那些对话从未离开设备。

这如何契合 Google 更广泛的端侧反诈布局

与 GovTech 的合作不是 Google DeepMind 第一次把 Gemma 或 Gemini Nano 用于消费者反诈保护，但它在范围和合作深度上是一次显著扩展。Google 此前的端侧反诈工作聚焦于具体而狭窄的类别：Google Messages 中的 Gemini Nano 捕捉诈骗短信模式；Chrome 137 中的 Gemini Nano 通过检测 Keyboard Lock API 等特征来标记技术支持诈骗页面；Pixel 设备上分析音频以识别诈骗电话迹象的来电筛查功能。

这些系统各自针对一个离散的威胁面：特定的消息类型、特定的浏览器情境、特定的通话场景。GovTech 合作引入的是一个被训练来把操纵识别为一种对话策略、而非技术痕迹的系统 —— 检测诈骗的社会和修辞结构，而不只是它的技术指纹。

这一区别在技术上很重要，因为社交工程诈骗恰恰会避开技术指纹。一个在 WhatsApp 上冒充新加坡警察部队警官的诈骗者不会发钓鱼链接；他发送的是一连串看似平常的文字消息，经过几轮交流建立可信度、制造紧迫感，并引导受害者自愿披露。没有任何 URL 数据库或恶意软件特征能捕捉这个序列。一个在本地诈骗语料 —— 冒充星展银行、中央公积金局、新加坡警察部队 —— 上训练的语言模型，有相当的机会在受害者走到被榨取的那一步之前识别出这个模式。

局限与尚未验证之处

关于这次部署的若干细节仍未披露或无法独立核实。所用的具体 Gemma 变体 —— 模型的参数量、量化精度以及在典型硬件上的推理延迟 —— 尚未公布。没有宣布任何准确率指标；真实条件下的检出率和误报率未知。

推出时间表同样未定。多个来源表明该项目没有确认的公开可用日期，而且要大规模触达用户需要与即时通讯平台达成集成协议 —— 这一依赖让部署时间表难以预测。该系统已经演示并公布，但尚未向终端用户部署。

检测能否泛化到训练分布之外 —— 新的诈骗变体、新的冒充对象，或以新加坡式英语这类语码转换语言进行的诈骗对话 —— 是一个真正的开放问题，需要真实世界评估来回答。公告没有披露微调模型的语言能力。

新加坡模式对本地区可能意味着什么

主权沙箱方法如果在新加坡的部署中展示出可衡量的成果，就为面临类似约束的其他东南亚政府提供了一份蓝图。马来西亚、泰国和越南等国面临着相当的社交工程诈骗泛滥、同样高的智能手机普及率，以及把公民通讯经由云端政府监控基础设施的类似政治障碍。新加坡相对较小的人口和先进的数字基础设施，使它成为本地区其他国家可能采纳的做法的一个实用试验场。

延伸阅读：公共安全人形机器人中心在新加坡开张

这次合作也是前沿 AI 公司争夺政府关系这场更广泛竞争中的一个数据点。Google 与新加坡政府的国家 AI 合作伙伴关系提供了一个目前没有竞争对手在消费者反诈领域拥有的参考部署。对 GovTech 和 Google DeepMind 双方而言，该系统触达用户之后的真实表现，将决定主权沙箱模式是从一项国家实验演变为区域标准，还是止步于此。