谷歌前安全负责人警告：AI 对儿童的伤害恐超社交媒体

事件核心：发生了什么

据路透社报道，曾担任 Google 信任与安全副总裁的 Tom Siegel 本周公开表示，科技行业正在重演社交媒体时代的老问题，而 AI 对未成年人的潜在危害可能更大。他指出，当前 AI 公司不断为聊天机器人叠加新功能，数百万青少年已在日常使用，但配套保护措施明显不足。

这一担忧并非空穴来风。路透社去年曾披露 Meta 一份内部政策文件，其中提到其聊天机器人可能“与儿童进行浪漫或性相关对话”，由此引发国会调查，但监管仍未跟上 AI 的迭代速度。Siegel 本周宣布加入 2003 年成立的非营利组织 Common Sense Media，担任其今年 5 月新设的“青少年 AI 安全研究所”首任执行主任。Anthropic 和控制 OpenAI 的非营利 OpenAI 基金会均为该机构支持方。

Siegel 在 Google 任职至 2019 年，离职原因是他认为行业在构建安全网络空间上已陷入“停滞”。他列举的风险包括自杀、精神崩溃，以及因依赖 AI 回答而导致的“认知卸载”——即批判性思维能力下降。

为什么重要

这场警告指向一个结构性矛盾：社交媒体公司如今正因涉嫌伤害未成年用户而支付巨额和解金、面临数千起诉讼，各国政府也在限制未成年人访问社交平台；而 AI 聊天机器人正以更私密、更个性化的方式进入儿童生活，风险面可能更广。目前公开信息显示，监管手段尚未有效约束 AI 产品的快速迭代。

对行业而言，Siegel 的立场代表了一种日益增强的呼声——AI 安全不能只靠企业自律。他建议 Anthropic 和 OpenAI 实施更严格的年龄验证，并建议 Google 在搜索中增加关闭 AI 概览和 AI 模式的选项，类似现有的成人内容过滤开关。这些措施可能短期影响使用量和利润，但不作为的公司将面临诉讼与监管风险。

对用户/开发者/创作者的影响

对普通用户和家长来说，年龄验证和访问控制可能很快成为主流 AI 产品的标配。Google 回应称家长可通过控制功能完全关闭孩子对搜索引擎的访问，并强调 AI 搜索对青少年学习“非常有用”；OpenAI 则表示除用户自报年龄外，还会通过“账户和行为信号”识别未成年用户。

AI 工具推荐

想把多个 AI 模型放在一个入口？

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。

对开发者和 AI 应用团队而言，这意味着面向未成年人的聊天机器人、教育类 AI 工具将面临更严格的上线审查和合规成本。从事大模型推理、API 服务或 AI 应用分发的团队，需要提前考虑年龄门控、内容过滤和审计日志等机制。开源模型虽不受平台政策直接约束，但下游产品若面向儿童，同样会进入监管视野。

值得关注的后续

第一，Common Sense Media 的青少年 AI 安全研究所能否拿出可落地的行业标准，以及 Anthropic、OpenAI 等支持方是否会率先采纳。第二，Google 是否会在搜索中真正加入关闭 AI 概览的选项，而不仅停留在家长控制层面。第三，美国国会及各国监管机构是否会因这一轮警告加速 AI 儿童保护立法，进而影响产品上线节奏与合规成本。

来源：AIbase