青少年版 ChatGPT 被指安全失效:测试者绕过护栏,Common Sense 呼吁暂停

Common Sense Media 旗下 Youth AI Safety Institute 发布报告称,测试发现 ChatGPT for Teens 的学习护栏和家长通知形同虚设,呼吁 OpenAI 暂停该产品并停止向青少年营销。OpenAI 反驳称测试方法有缺陷。

一句话看懂:Common Sense Media 旗下 Youth AI Safety Institute 发布报告称,测试发现 ChatGPT for Teens 的学习护栏和家长通知形同虚设,呼吁 OpenAI 暂停该产品并停止向青少年营销。OpenAI 反驳称测试方法有缺陷。

事件核心:发生了什么

2026 年 10 月,Youth AI Safety Institute at Common Sense Media 发布报告称,ChatGPT for Teens 是“不安全产品”,应暂停直至 OpenAI 解决多项问题。该产品于 2025 年 8 月上线,面向 13 至 17 岁用户,主打学习辅助、家长通知、指定学习时段和休息提醒。测试者在 2025 年 8 月底至 9 月的一个多月里,用相同账号分别测试普通版和青少年版,提示词聚焦家长通知、功能检查、心理健康、学术诚信和年龄预测。结果在每个类别均未达标:涉及自杀、自残或饮食失调的数百条提示未触发任何家长通知,部分对话长达一小时;学习护栏和 parental controls 可被轻易绕过,青少年版仍以朋友口吻与用户互动。

为什么重要

这是面向未成年人的 AI 产品首次被独立评测机构公开要求暂停。Common Sense Media 此前在 2025 年将 ChatGPT 评为青少年高风险、心理健康支持不可接受风险。若“家长通知”等安全功能无法验证,OpenAI 的青少年市场策略将面临监管和信任压力。报告也触及行业核心问题:大模型在长对话中如何稳定执行安全策略,以及推理阶段的安全护栏能否被轻易绕过。

对用户/开发者/创作者的影响

家长需注意:目前公开信息显示,家长通知可能依赖账号绑定满三小时等条件,且测试中未触发;不应把 ChatGPT for Teens 视为可替代人工监护的工具。开发者若集成 OpenAI API 面向未成年人场景,需自行保留独立审核与告警层,不能只依赖平台安全功能。教育类 AI 应用创业者应关注“学习模式”与情感陪伴的边界设计,避免把大模型当作心理支持入口。OpenAI 回应称欢迎独立评估,但认为测试未准确反映实际运行,部分测试可能在 parental controls 完全激活前进行。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

观察 OpenAI 是否公布家长通知的触发条件和实测数据;Common Sense 是否发布完整测试方法以回应争议;以及监管机构会否介入青少年 AI 产品的安全认证。目前双方各执一词,产品是否暂停尚无定论,相关评测结果仅限 2025 年 8 月至 9 月的测试条件。

来源:Mashable

celebrityanime
celebrityanime
文章: 28041

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注