非营利组织指ChatGPT青少年模式安全风险过高,OpenAI回应测试局限但结论未改

美国非营利组织 Common Sense Media 发布报告称,ChatGPT 青少年模式在涉及自杀、自残等高风险话题时无法及时向家长预警,并呼吁 OpenAI 暂停推广该产品;OpenAI 回应称测试方法存在局限,但研究方坚持原有结论。

一句话看懂:美国非营利组织 Common Sense Media 发布报告称,ChatGPT 青少年模式在涉及自杀、自残等高风险话题时无法及时向家长预警,并呼吁 OpenAI 暂停推广该产品;OpenAI 回应称测试方法存在局限,但研究方坚持原有结论。

事件核心:发生了什么

总部位于加利福尼亚的非营利组织 Common Sense Media 于 2026 年 10 月发布报告,对 OpenAI 旗下 ChatGPT 的青少年模式进行安全评估。测试显示,当青少年账户在数周内、跨多种场景输入数百条提示词后,系统才可能触发一次家长通知;单次高风险对话不足以触发警报,系统也未持续提供危机干预热线信息。

报告还指出,ChatGPT 无法可靠识别未成年人年龄。即使用户在聊天中主动说出年龄,账户也不会自动切换到青少年模式。基于这些发现,该组织呼吁 OpenAI 暂停推广该产品。

OpenAI 发言人在回应中表示,测试未能准确反映系统实际运行逻辑,多数测试可能是在青少年家长控制功能全面上线前完成,并强调年龄预测需要多信号综合判断,仅凭用户自报年龄不会改变账户分类。研究方则回应称,已与官方确认相关功能在测试前已可用,并指出即便考虑账户关联后的延迟,系统在危机场景下仍无法可靠发出警报,因此维持原结论。

为什么重要

青少年模式是 AI 大模型产品进入教育、家庭场景的关键合规卖点。如果家长控制与危机干预机制无法在真实场景中稳定触发,不仅会削弱用户对 OpenAI 安全承诺的信任,也可能引发监管机构对面向未成年人 AI 产品的审查。目前公开信息显示,该报告聚焦 ChatGPT 青少年模式在特定测试条件下的表现,并非对所有 AI 产品的普遍结论,但足以让行业重新审视年龄识别、实时风险监测与家长联动机制的工程优先级。

对用户/开发者/创作者的影响

对家长用户而言,报道提示不应将青少年模式视为完全可靠的监护替代方案,仍需保持主动沟通与关注。对开发者和 AI 应用团队来说,若产品涉及未成年人,年龄推断、高风险内容识别、危机干预信息推送及家长通知链路,都需要在推理层和产品层做更严格的联动设计,而不能仅依赖账户自报信息。对内容创作者和平台运营方,涉及心理健康话题时,应预留人工审核或第三方资源接入路径,避免因模型漏判导致次生风险。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

第一,OpenAI 是否会公开青少年模式家长通知功能的具体触发条件和改进时间表。第二,Common Sense Media 是否会将测试数据提交给监管机构或推动行业标准制定。第三,其他提供青少年模式的 AI 产品是否会跟进调整安全策略。后续可观察 OpenAI 官方文档与产品更新日志中关于年龄预测、家长控制和危机干预的说明变化。

来源:AIbase

celebrityanime
celebrityanime
文章: 28212

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注