探索我们的下一代 AI 系统

探索模型

Gemini

Gemini 构建智能体 Gemini Omni 从任何事物创造任何事物 Nano Banana 创建和编辑精细图像 Gemini Audio 交谈、创建和控制音频

专用模型

Veo 生成带音频的电影级视频 Genie 3 生成并探索互动世界 Lyria 生成高保真音乐和音频 Gemini Robotics 感知、推理、使用工具并互动

开放模型

Gemma 大规模构建负责任的 AI 应用

我们最新的 AI 突破以及来自实验室的更新

探索研究

突破

SIMA 2 一个在虚拟 3D 世界中与你一起游玩、推理和学习的智能体 Genie 3 生成并探索互动世界 AlphaGo 掌握围棋游戏 Gemini Robotics 感知、推理、使用工具并互动

了解更多

评估出版物责任前沿安全

用 AI 开启发现的新时代

探索科学

突破

AlphaFold 高精度预测蛋白质结构 AlphaGenome 使用 AI 理解人类基因组 WeatherNext 快速且准确的 AI 天气预报 AlphaEarth 以前所未有的细节绘制我们的星球 AlphaEvolve 为数学和计算应用设计高级算法

了解更多

Gemini for Science 实验工具科学技能

我们的使命是负责任地构建 AI，以造福人类

关于 Google DeepMind

责任通过主动安全确保 AI 安全，甚至应对不断演变的威胁新闻了解我们最新的 AI 突破、项目和更新职业我们正在寻找希望对世界产生真正积极影响的人

模型

探索我们的下一代 AI 系统

探索模型

Gemini

Gemini 构建智能体 Gemini Omni 从任何事物创造任何事物 Nano Banana 创建和编辑精细图像 Gemini Audio 交谈、创建和控制音频

专用模型

Veo 生成带音频的电影级视频 Genie 3 生成并探索交互式世界 Lyria 生成高保真音乐和音频 Gemini Robotics 感知、推理、使用工具并交互

开放模型

Gemma 大规模构建负责任的 AI 应用

研究

我们最新的 AI 突破和实验室动态

探索研究

突破

SIMA 2 一个与你一起游玩、推理和学习的智能体 Genie 3 生成并探索交互式世界 AlphaGo 掌握围棋游戏 Gemini Robotics 感知、推理、使用工具并交互

了解更多

评估出版物责任前沿安全

科学

用 AI 开启发现的新时代

探索科学

突破

AlphaFold 高精度预测蛋白质结构 AlphaGenome 使用 AI 理解人类基因组 WeatherNext 快速准确的 AI 天气预报 AlphaEarth 以前所未有的细节绘制我们的星球 AlphaEvolve 为数学和计算应用设计高级算法

了解更多

Gemini for Science 实验工具科学技能

关于

我们的使命是负责任地构建 AI，造福人类

关于 Google DeepMind

了解更多

教育我们的 AI 国家合作伙伴关系加速器项目播客 DeepMind 研究所

责任通过主动安全确保 AI 安全，甚至应对不断演变的威胁新闻探索我们最新的 AI 突破、项目和动态职业我们正在寻找希望对世界产生真正积极影响的人

使用 Gemini 构建试用 Gemini

Google DeepMind

Google AI 了解我们的所有 AI Google DeepMind 探索 AI 的前沿 Google Labs 体验我们的 AI 实验 Google Research 探索我们的研究

产品与应用

Gemini 应用与 Gemini 对话 Google AI Studio 使用我们的下一代模型进行构建 Google Antigravity 我们的智能体开发平台

使用 Gemini 构建试用 Gemini

2026年10月14日责任与安全

Google DeepMind 与新加坡政府合作构建用于诈骗检测的微调 AI 模型

JJ Geewax 和 Miguel de Andrés

已复制

图片 39：抽象 3D 设计，呈现类似新加坡国旗的波浪状光泽红色层和纹理白色层，点缀着玻璃球体和像素化的红色方块阵列

与新加坡政府科技局（GovTech Singapore）合作，在不损害隐私的前提下保护用户。

诈骗，例如投资欺诈、虚假工作机会和冒充公职人员，占新加坡报告犯罪的一半以上，并自2019年以来造成超过40亿新元的损失。与此同时，诈骗手法已从简单的网络钓鱼转向复杂的社会工程学，攻击者通过令人信服的对话操纵受害者，然后索要钱财。此类诈骗现在占所有损失的80%。

为解决这一问题，Google DeepMind 和新加坡政府科技局（GovTech Singapore）作为我们与新加坡政府国家 AI 伙伴关系的一部分，一直在合作。我们共同微调了一个保护隐私的设备端诈骗检测模型。

不损害隐私的设备端 AI 保护

通用模型往往难以应对本地欺骗手法，使诈骗检测更加困难。为解决这一问题，Google 的轻量级 Gemma 模型基于本地诈骗对话进行了微调。这些对话涵盖冒充公共机构、银行和本地人物，以及流行的区域骗局。这确保微调后的模型在部署到公民安装的应用程序中时，能够区分良性社交闲聊和真正的操纵行为。

与依赖云端服务器端扫描消息的传统威胁检测不同，该模型可以直接在设备上处理对话数据。当集成到应用程序中时，这将允许更快地分析对话模式以检测操纵意图，并帮助公民在发生财务或凭证泄露之前采取行动。

该模型在应用程序中的推出将谨慎分阶段进行，并与新加坡政府合作开发。部署后，该模型只能在用户同意的情况下访问设备上的对话，并遵守该应用程序的使用条款。由于模型完全在设备上运行，新加坡政府和 Google 都无法通过其部署访问用户的对话。

打击诈骗不应意味着牺牲个人隐私。与 Google DeepMind 合作，我们将先进的 AI 保护直接带到公民的设备上。这使我们能够实时捕捉高度针对性的本地诈骗企图，同时保持个人通信的私密性。

Mark Chen

新加坡政府科技局信任与安全总监

底层揭秘：本地语境与边缘效率

当模型检测到操纵性对话模式时，它会直接在用户设备上触发实时警告，建议他们在分享敏感信息或资金之前暂停并保持谨慎。

在现代智能手机上运行复杂的诈骗分类器模型并非易事，电池效率是一个关键关注领域。为此，我们依赖一个两阶段流水线：

图片 40：一个流程图，说明两阶段消息筛查系统。第一阶段使用设备端的“轻量级快速筛查分类器”过滤传入消息；安全消息获得“良性判定”，而可疑消息进入第二阶段。第二阶段使用“微调 Gemma 模型”进行多轮对话分析，结果要么是“诈骗警报”，要么是“良性判定”。图片 41：一个流程图，说明两阶段消息筛查系统。第一阶段使用设备端的“轻量级快速筛查分类器”过滤传入消息；安全消息获得“良性判定”，而可疑消息进入第二阶段。第二阶段使用“微调 Gemma 模型”进行多轮对话分析，结果要么是“诈骗警报”，要么是“良性判定”。

阶段 1：一个轻量、高效的分流器对入站消息进行筛查，功耗极低，专注于捕捉潜在威胁。
阶段 2：使用我们微调后的 Gemma 模型进行上下文分析，我们会分析更大范围的对话快照，以确认威胁或排除误报。

建立在严格治理之上

这项合作在新加坡国际网络周（SICW 2026）上展示，为消息平台在用户保护与端到端加密之间取得平衡提供了一个范例。整个开发过程始终保持严格治理：

主权沙盒：微调在新加坡政府科技局管理和维护的 GCP 环境中进行，使训练数据保持隔离。
不使用公民数据：训练严格排除私人或可识别个人身份的信息，仅使用源自诈骗报告和情报源的匿名数据集。
压力测试：该模型针对合成对话和本地语料库进行了测试，以覆盖多种诈骗类别和不断演变的冒充手法。

设备端安全的未来

该项目展示了 AI 如何在不损害安全或隐私的情况下帮助打击犯罪。它还表明政府与模型提供方可以如何合作，打造服务于公共利益的科技。借助这一轻量级设备端模型，我们证明了本地实时诈骗检测的能力，同时确保聊天交互保持安全。我们期待很快分享更多关于我们与新加坡政府合作的信息，并探索类似技术在其他国家部署的可能性。