一句话看懂：数字取证专家、加州大学伯克利分校前教授 Hany Farid 指出，当前生成式 AI 产出的图像、视频和音频在视觉上已接近无法用肉眼分辨，普通用户几乎无法判断社交媒体上内容的真伪。Farid 认为，AI 生成内容正快速跨越“恐怖谷”，技术门槛和成本同步下降，让深度伪造变得廉价且泛滥。
事件核心：发生了什么
Farid 在接受 Business Insider 采访时表示，他在 1999 年于达特茅斯学院开始研究数字取证，当时数码相机和互联网刚刚起步，伪造图像需要较高技能且在光影、几何、元数据上容易留下破绽。但如今，生成式 AI 大幅降低了造假门槛：用户只需通过键盘和网络连接输入指令，即可创建逼真的图像、语音甚至短视频。Farid 观察发现，AI 生成图像最早走出“恐怖谷”，其次是克隆的语音（包含语调、笑声和停顿），而视频目前仍在跨越阶段——15 到 30 秒的短视频几乎无法单凭视觉线索判断真伪。不过，30 分钟以上的高清长视频目前仍较难完全由 AI 生成。
为什么重要
Farid 的观察揭示了一个正在加速的行业现实：AI 生成内容的质量已超越人眼辨别能力，而技术和成本曲线仍在向下倾斜。这对数字取证行业提出了根本性挑战——过去通过检测物理阴影、几何变形等线索的方法，正被无物理世界认知约束的生成式 AI 所规避。Farid 指出，虽然借助计算工具和数学模型仍可判断内容真伪，但需要时间与专业知识，普通人无法胜任。这意味着，内容审核、媒体验证、国家安全与司法取证等体系需要更多地依赖自动化检测工具，而非人力判断。同时，生成式 AI 产品的易用性（如输入文本即可生成）正在改变内容创作的权力分配，对传统图像/视频编辑软件（如 Photoshop）的生态构成替代压力。
对用户/开发者/创作者的影响
对普通用户：不能再依赖肉眼判断社交媒体上信息的真伪，需要养成交叉验证的习惯，并使用可信的取证工具。Farid 认为，这已超出个人认知能力的范畴。
对开发者：需要关注数字取证工具与 API 集成机会，例如 Farid 联合创办的 GetReal 所提供的计算检测方案。AI 生成内容的检测技术（如分析光影、物理不连贯性）仍有商业价值，但需持续迭代。
对创作者：AI 工具降低了高质量的图像、语音和短视频制作门槛，但同时也让内容信任度下降。创作者可能需要主动标注 AI 生成内容，或借助第三方认证来维系观众信任。
AI 工具推荐
想把多个 AI 模型放在一个入口？
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。
推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。
值得关注的后续
1. 检测工具的普及与效果：Farid 强调“检验确实存在”但需要时间和计算资源，未来能否落地为社交媒体平台实时扫描的 API 服务是关键。
2. AI 生成视频长度与能力的跃升：目前高质量视频片段已从 4 秒延长至 30-40 秒，若进展持续，2026-2027 年可能出现整段 AI 生成的广告或新闻片段。
3. 监管与平台责任：无论是美国还是全球主要市场，是否出台强制标注 AI 生成内容的规定，将直接影响内容平台对检测技术的采购决策。
