TikTok 紧急叫停“AI 摘要”功能：视频里全是“蓝莓”，严重幻觉触礁
发生了什么：短视频巨头 TikTok 近日宣布，暂停其已在美国等市场小范围测试数月的“AI Overviews”功能。该功能本意是利用多模态大模型自动为视频生成文本摘要、提供背景信息并推荐商品，但由于在实际测试中频繁出现严重“幻觉”，例如将人气网红 Charli D’Amelio 的视频描述为“不同成分的蓝莓集合”，将训犬教程误判为“折纸艺术”，甚至将夏奇拉的宣传短片解读为“移动的蓝色形状”，TikTok 不得不紧急撤回该测试版本。这一事件引发了行业对多模态 AI 在短视频这种高密度、非结构化内容生态中可靠性的广泛担忧。
从“全能摘要”到“寻找蓝莓”：算法理解的致命短板
TikTok 的“AI Overviews”功能原本肩负着多重使命：试图从动态、多变的短视频中提取核心信息，并最终实现精准的商品导购。然而，残酷的测试结果揭示了当前多模态大模型在视觉理解上的巨大局限性。面对 Charli D’Amelio 复杂的穿搭和背景，模型将其归纳为一堆“蓝莓”；面对训犬教程中手与狗之间的互动，模型错误地理解成了静态的手工纸艺。TikTok 发言人证实，该测试基于反馈已被暂停，并明确指出“未来该功能的重点将放在识别视频中的特定产品上，而不是试图总结整个视频内容”。这相当于承认，对于 Tiktok 而言，让 AI 进行全局性的故事生成和语义理解，目前仍是过于超前的技术挑战。这种逻辑断裂与语义误识，被业界视为继谷歌“胶水披萨”之后，生成式 AI 在视觉内容上又一起典型的“幻觉”事故。
战略转向：从“泛化叙事”转向“垂直识别”的商业必然
此番挫折并非毫无价值。TikTok 的这次“战略性撤退”实际上清晰地勾勒出其在 AI 工具商业化道路上的新思路。与其让一个不可靠的“全能摘要”去描述整个视频内容、从而引发信任危机，不如单纯地将工具能力锁定在“识别产品”这一狭窄但确定性高的垂直应用上。这反映了短视频巨头在 AI 应用上从理想主义到实用主义的关键转折。在业界，这被视为从追求“全面描述”向“垂直应用”转变的又一例证。 TikTok 此举意在通过缩小 AI 的认知边界，换取更高的实用价值和商业确定性——例如，当用户在观看一段展示鞋子的视频时，AI 不需要输出“这双鞋正被穿着跳跃”的背景故事，只需准确地识别出鞋的品牌和型号即可。
行业启示：短内容生态是 AI 推理的“终极考场”
TikTok 的这次“打脸”给整个 AI 行业敲响了一记警钟。尽管近期数据显示谷歌等巨头在 AI 摘要的准确性上有所改善，但 TikTok 的遭遇再次警告：在充斥着跳跃剪辑、低分辨率素材、背景音乐干扰和高度个人化表达的短视频生态里，多模态大模型的泛化能力还远不足以支撑可靠的自动化叙事。 正如 TikTok 看到的，算法可以轻易地将一个真实人物识别成水果，将动态互动肢解成静态物体。这表明，AI 当前的视觉理解在两个关键环节——逻辑关联与语义匹配——上仍然存在根本性缺陷。未来，行业发展的重心很可能将进一步向那些能够严格控制输入、并且任务目标明确的垂直 AI 应用倾斜，但对于试图实现“看懂一切”的通用多模态模型来说，一条狗、一把椅子甚至一个人的视频，依然可能被 AI 解读成一堆“不同成分的蓝莓”。
