诈骗对话往往不是一条可疑链接那么简单，而是数轮建立信任、制造紧迫感，再要求转账或交出凭证。十月十四日，Google DeepMind公布与新加坡政府科技局GovTech合作开发端侧防诈骗模型：团队以本地诈骗对话微调轻量Gemma模型，让分析可以在手机上完成，而非把私人消息上传服务器。
根据Google DeepMind的技术说明，系统采用两阶段流程：先由轻量分类器筛查来讯，只有可疑对话才进入更深入的上下文分析；训练使用匿名化的诈骗报告和情报数据，不使用公民私人或可识别信息。模型在应用接入后，需要用户同意才可读取设备上的对话。官方同时表示，应用内的部署将分阶段推进，因此这次公布不等于所有用户现在都已能使用该功能。
端侧处理缩小了数据暴露面
把推理放在设备上，最直接的好处是降低消息离开手机的需要，尤其适合端到端加密的通信场景。它也可能减少网络往返带来的延迟。不过，“在本地运行”并不自动等于“没有隐私风险”：应用仍需清楚说明授权范围、何时分析、保存哪些结果，以及用户怎样关闭功能。安全设计要覆盖整个产品流程，而不只是模型推理的位置。
工程层面，轻量筛查加较重的上下文模型，是一种计算预算分层策略。多数普通消息可以快速跳过，只有疑似风险才动用更多算力。这种设计能否在手机上兼顾电池、响应速度和召回率，需要真实设备与长期使用数据验证。高召回率可能带来更多误报，用户若频繁收到错误警告，也会逐渐忽略真正重要的提示。
评估要覆盖攻击者的变化速度
新模型经过本地案例和合成对话压力测试，是有价值的起点；但诈骗话术会随地区、语言和时事不断变化。上线前后都应监测误报与漏报，按语言和人群分层检查表现，并允许用户快速举报不准确的警告。针对隐私的审计也要独立于检测效果评测，确认消息确实不会通过遥测或日志意外离开设备。
这项合作展示了小模型承担具体公共安全任务的方向，而不是一次已经证明万能的防护方案。它的价值最终取决于在真实应用中的透明授权、可解释提醒、稳定性能和持续更新。对产品团队而言，端侧AI最重要的工程指标不应只有模型分数，还包括用户是否愿意信任并持续使用它。