一句话看懂：TikTok 的 AI 分身功能被其他用户调用，让一位创作者在毫不知情的情况下“出演”了美黑产品广告——AI 分身已经不再只是娱乐工具，而是正在变成平台广告基础设施的一部分，但授权机制和可见性控制明显还没跟上。
事件核心：发生了什么
8 月初，Substack 编辑 Bryce Gruber 在 TikTok 刷到一条美黑产品推广视频，视频里推销产品的女性正是“AI 版”的自己，而她从未接触过该产品，也与品牌没有任何合作。她在 TikTok 上向 19.3 万粉丝展示了这一情况，并检查了自己的 AI Self 设置，发现权限被设为“Everyone”——她称之为默认选项，随后呼吁用户将权限改为“Only You”。
涉事功能是 TikTok 的 AI Cast，它允许用户创建自己的“AI Self”，供自己或他人生成 AI 视频。TikTok 产品传播负责人 Zachary Kizer 解释称，创建 AI Self 需要用户本人多角度录制视频并朗读数字，且被调用时创作者会收到通知。但 Gruber 的遭遇说明，这套流程并没能让创作者第一时间察觉自己的数字形象正被他人用于商业推广。她还发现，此前已有一家中国牛仔品牌用她的脸和声音、甚至仿造的“后院”场景卖牛仔裤，销量超过 1000 条。吉他手 Sophie Burrell 也在 6 月发现过类似问题。
为什么重要
这不是一次简单的“Deepfake 恶搞”。传统 Deepfake 是从公开素材中抓取人脸合成内容，受害者难以预防；而 AI Cast 的 AI Self 是用户主动创建、平台正式提供的功能，属于“合法功能被用于失当场景”。问题因此从技术滥用，变成了平台产品设计和授权机制是否足够严谨的问题。
更值得注意的是商业背景。TikTok 正在通过 Symphony 平台大力推进 AI 广告工具，并在 6 月扩展了 Symphony Agent，可通过生成式视频、脚本和虚拟形象自动产出广告。AI 分身显然是这套广告体系的核心资产之一。如果用户无法清晰控制自己的 AI Self 被谁调用、用于何种场景，不仅会伤害创作者信任，也可能让品牌方陷入虚假代言风险。
UC Berkeley 教授 Hany Farid 在 Mashable 的调查中指出，现在只需 20 秒语音和一张照片就能生成一段“真人”视频。这意味着不仅 TikTok 的官方 AI Cast 存在被滥用的可能，外部工具也能绕过平台，在更底层复制一个人的形象和声音，维权和溯源难度将远高于传统内容造假。
对用户/开发者/创作者的影响
对创作者而言，这是一次明确的提醒：如果你在 TikTok 创建过 AI Self，或任何平台提供类似数字分身功能，应尽快检查默认共享范围。TikTok 当前没有披露 AI Cast 是否默认将新用户的 AI Self 设为“Everyone”，Gruber 的经历也表明，至少部分账号此前处于公开可调用状态。
对开发者和平台的 AI 产品设计者来说，这个案例说明“生成能力”和“授权纪律”必须同步建设。调用他人 AI Self 时，仅靠创建时的单向授权远远不够，至少应在对方发起调用时加入二次确认，并让 AI Self 的可见性设置变得更加显眼，而不是藏在多级菜单里。对普通用户而言，这也意味着短视频平台上的“真人推荐”不再可靠——你看到的产品体验、评价乃至人物本身，都可能是 AI 生成的数字替身。
值得关注的后续
首先，TikTok 是否会调整 AI Cast 的默认权限和通知机制。此前 YouTube 已要求创作者标注 AI 生成内容，TikTok 方面是否会跟进更严格的披露标准，将直接影响 AI 广告的信任基础。
其次，肖像权和虚假代言的法律边界会在实际案例中如何划定。Gruber 和 Sophie Burrell 都是公开在社交平台发声的创作者，如果后续有平台或品牌面临诉讼，会对 AI 广告代理和虚拟人服务商形成重要的风控参考。
最后，平台对 AI 生成内容是否有可追溯的标识。TikTok 的 AI Cast 视频若无法被识别为 AI 生成，或标识信息不随视频导出、下载而保留，那么普通用户几乎无法区分真人和 AI 分身。这个问题如果得不到解决，AI 广告工具越普及，公共空间的信任成本反而会越高。
来源：Mashable
