Instagram 的 AI 检测又是一团糟

Meta 旗下 Instagram 的 AI 内容标签系统再次失灵,大量使用背景移除、瑕疵修复等常规编辑功能的原创照片被误标为“AI Content”,而真正的生成式 AI 图片却未被识别,导致平台内容可信度再受质疑。

一句话看懂:Meta 旗下 Instagram 的 AI 内容标签系统再次失灵,大量使用背景移除、瑕疵修复等常规编辑功能的原创照片被误标为“AI Content”,而真正的生成式 AI 图片却未被识别,导致平台内容可信度再受质疑。

事件核心:发生了什么

据 The Verge 报道,近几周 Instagram 用户频繁反馈,其自动“AI Content”标签出现严重误判。多位用户指出,使用 Canva 的 Background Remover(背景移除工具)或轻微瑕疵修复功能后,原始照片被 Meta 系统自动打上 AI 生成标签。部分案例中,用户仅用工具移除了照片上的一个斑点,整张图便被标记。与此同时,真正由 AI 生成的图像却未被识别,漏标现象同样严重。Meta 曾于 2024 年因类似问题饱受批评,当时其系统将 Adobe 软件中仅含极少量生成式 AI 修图痕迹的照片全部标记为“Made by AI”,Meta 随后承诺调整标注策略以反映 AI 使用程度,但始终未公布具体检测标准。此次事件中,Canva 回应称其部分辅助型 AI 工具“被错误标记为生成式”,并表示已完成修正、不再向设计文件添加 AI 生成内容元数据。然而仍有 Threads 用户在 Canva 修复后反馈误标依旧存在。The Verge 编辑 Jess Weatherbed 的实测显示,在其测试的多组图片中,只有使用 Meta AI 应用创建或编辑的图片被正确标注。

为什么重要

这一事件暴露了 AI 内容检测技术在行业落地中的核心矛盾:Meta 依赖 C2PA、IPTC 等行业标准元数据来识别 AI 内容,但元数据只能反映工具层面的操作记录,无法判断 AI 在创作流程中的实质比重。背景移除、对象选择等辅助型 AI 与生成式 AI 同属机器学习范畴,却被笼统地归入“AI 生成”标签。对 Meta 而言,其旗下拥有 Llama 等大模型并深度布局生成式 AI,标签体系失灵直接影响平台内容生态的信任基础;对整个 AI 行业而言,如果头部社交平台的 AI 标识系统如此粗糙,所谓的“AI 内容透明度”将成为一句空话。值得注意的是,Meta 自家的 Meta AI 应用生成的图片在这些测试中被正确标记,而第三方工具的图片却被误判,这引发了对平台检测规则是否公平对待不同生态的疑虑。

对用户/开发者/创作者的影响

对普通用户和摄影创作者而言,误标意味着原创作品被贴上“AI 生成”标签,可能损害作品真实性与个人声誉,尤其在摄影、设计等依赖原创性的领域。对使用 Canva、Photoshop 等设计工具的开发者与创作者来说,他们使用的辅助功能本质上是接入 AI 能力的产品化工具——背景移除用的视觉模型、瑕疵修复用的图像算法——这些被视为“边缘 AI”的功能如今可能触发平台的内容审查标记,影响作品传播。对从事 AI 内容生成的开发者而言,Meta 的检测机制模糊不清,既不知道扫描频率,也不了解具体的判定规则,这使合规与标识工作变得不可预期。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

首先需要观察 Meta 是否会像 2024 年那样再次承诺调整标签策略,以及是否会公布更明确的检测标准。其次是 Canva 与 Instagram 之间的元数据协议问题——Canva 声称已修复,但用户反馈显示误标仍在,说明问题可能出在 Instagram 端的检测逻辑而非工具端的元数据写入。第三,这一风波是否会影响 C2PA 等元数据标准在行业内的推广节奏——如果连最基础的工具操作都会触发平台误判,创作者对 AI 标识体系的信任度可能进一步下降。

来源:The Verge

celebrityanime
celebrityanime
文章: 22021

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注