Meta 新增 AI 筛查,检测 WhatsApp 诈骗

Meta 正在 WhatsApp 上测试一项名为 Scam Alert 的可选功能,用手机端本地运行的机器学习模型识别疑似诈骗消息并弹出警告。值得关注的不是“AI 反诈”本身,而是 Meta 选择把分类模型完全放在端侧,让消息内容不出设备。

一句话看懂:Meta 正在 WhatsApp 上测试一项名为 Scam Alert 的可选功能,用手机端本地运行的机器学习模型识别疑似诈骗消息并弹出警告。值得关注的不是“AI 反诈”本身,而是 Meta 选择把分类模型完全放在端侧,让消息内容不出设备。

事件核心:发生了什么

据 The Verge 报道,Meta 已开始在 WhatsApp 上限量测试 Scam Alert 功能。该功能基于端侧机器学习模型,用户开启后,系统会在本地判断收到的消息是否疑似诈骗。一旦被标记,聊天界面会出现一条警告,且这条警告只有接收方自己能看到,对方不会察觉。用户可以选择屏蔽、举报或继续对话,也可以把该聊天标记为“信任”,之后这个聊天不会再触发提醒。

值得注意的是,用户标记信任时,可以主动选择将最近收到的 5 条消息发送给 WhatsApp,用于优化模型准确率。Meta 表示,开启该功能后,“没有任何消息内容离开用户设备用于分类”,也不会自动向 WhatsApp、Meta 或任何第三方上报内容,用户可以随时关闭功能。

背景数据来自美国联邦贸易委员会(FTC):2025 年,仅通过 WhatsApp 发生的骗局就导致受害者报告损失 4.25 亿美元,而社交媒体平台上的骗局总损失超过 21 亿美元。WhatsApp 目前拥有超过 30 亿用户,一直是“杀猪盘”、电汇诈骗等犯罪的重灾区。今年早些时候,Meta 还曾在 WhatsApp 上针对设备关联请求推出过诈骗检测。

为什么重要

这表面上是又一项反诈小功能,实际上代表了端侧 AI 在隐私敏感场景的一次关键落地。WhatsApp 的核心卖点是端到端加密,如果把消息传到云端做 AI 筛查,等于在加密链条上开一个口子,既损害品牌信任,也容易触碰 GDPR 等隐私合规红线。Meta 选择用端侧模型完成分类,等于把“AI 安全防护”和“端到端加密”一起保住了,这两件事在以往常被看作不可兼得。

同时,整个行业也在往同一方向走:Google Messages 已经在用 AI 检测诈骗短信。头部厂商不约而同把安全检测做成端侧推理任务,说明大模型的商业化路径不只有聊天助手和图像生成,端侧小模型在高频、实时、隐私敏感的安全场景里,可能更快形成用户可感知的价值。

对用户/开发者/创作者的影响

对普通 WhatsApp 用户来说,这是一道额外的防线,尤其是面对“杀猪盘”等长线骗局时,本地警告可能帮助用户在转账前停下来。但端侧模型无法做到零误报,用户仍需要自行判断,误报后如何纠正的体验将成为关键。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

对开发者而言,Scam Alert 最有价值的部分是用户授权机制:当用户标记聊天为

celebrityanime
celebrityanime
文章: 18287

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注