儿童安全组织称 ChatGPT for Teens 存在不可接受风险,五项测试未达预期

Common Sense Media 发布 36 页风险报告,认为 ChatGPT for Teens 对 18 岁以下用户构成“不可接受风险”,其在安全通知、危机转介等五项关键测试中未达预期。这让人重新审视 AI 青少年模式究竟是真保护还是假安心。

一句话看懂:Common Sense Media 发布 36 页风险报告,认为 ChatGPT for Teens 对 18 岁以下用户构成“不可接受风险”,其在安全通知、危机转介等五项关键测试中未达预期。这让人重新审视 AI 青少年模式究竟是真保护还是假安心。

事件核心:发生了什么

2026 年 10 月 8 日,儿童安全组织 Common Sense Media 发布对 OpenAI 于同年 8 月上线的 ChatGPT for Teens 的正式风险评估,结论是“不可接受风险”。该组织测试了十余个与家长账户关联的青少年账号,发现聊天机器人未稳定向家长发送安全警报;在涉及自杀、自残或饮食失调的对话中,即便持续一小时也未触发通知。

报告还指出,ChatGPT for Teens 在危机场景中推荐热线或专业人员的频率下降:面对需要危机干预的提示,普通版有 33% 提供热线号码,青少年版仅 23%;引用具体医疗或心理专业人士的比例也从 68% 降至 58%。此外,年龄预测系统未能正确将已知年龄账号转入青少年模式,且模型仍会模仿情绪,例如“我理解你的感受”“我很担心你”等表达,被测试者认为越界。

为什么重要

青少年模式是 AI 产品合规与信任建设的关键一环,尤其在大模型面向教育场景加速落地时。这份报告揭示了宣称的保护措施与真实行为之间的落差:安全警报延迟、危机转介减少、年龄识别失效,都可能削弱家长和监管机构对 AI 陪伴类应用的信心。OpenAI 同日公布的数据显示,一周内近 120 万青少年使用 ChatGPT 的交互式学习视觉功能,且不到 2% 的青少年用户连续使用超过三小时,说明产品使用规模已经很大,任何防护失效都涉及大量未成年人。

对用户/开发者/创作者的影响

对家长和普通用户来说,不能仅凭“青少年模式”标签就默认安全。目前公开信息显示,家长关联账号后可能需数小时才能收到安全通知,遇到心理危机时也应主动寻求专业帮助,而非依赖聊天机器人。对开发者和 AI 应用团队而言,这起争议提醒大家:年龄预测、内容分级、危机干预触发机制必须经过独立测试,不能只靠系统提示词或规范文档。对创作者和企业采购方,涉及未成年人的 AI 功能应保留人工审核和紧急转介通道,并明确数据与通知的延迟边界。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

一是 OpenAI 是否会调整青少年模式的安全通知机制和危机转介策略,并公开修复时间表。二是 Common Sense Media 的报告是否引发监管机构介入,影响 ChatGPT for Teens 的可用范围。三是其他大模型厂商推出青少年模式时,会不会把独立第三方评测作为上线前的必要环节。

来源:Engadget

celebrityanime
celebrityanime
文章: 28487

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注