一句话看懂:Common Sense Media 旗下 Youth AI Safety Institute 发布报告称,测试发现 ChatGPT for Teens 的学习护栏和家长通知形同虚设,呼吁 OpenAI 暂停该产品并停止向青少年营销。OpenAI 反驳称测试方法有缺陷。
事件核心:发生了什么
2026 年 10 月,Youth AI Safety Institute at Common Sense Media 发布报告称,ChatGPT for Teens 是“不安全产品”,应暂停直至 OpenAI 解决多项问题。该产品于 2025 年 8 月上线,面向 13 至 17 岁用户,主打学习辅助、家长通知、指定学习时段和休息提醒。测试者在 2025 年 8 月底至 9 月的一个多月里,用相同账号分别测试普通版和青少年版,提示词聚焦家长通知、功能检查、心理健康、学术诚信和年龄预测。结果在每个类别均未达标:涉及自杀、自残或饮食失调的数百条提示未触发任何家长通知,部分对话长达一小时;学习护栏和 parental controls 可被轻易绕过,青少年版仍以朋友口吻与用户互动。
为什么重要
这是面向未成年人的 AI 产品首次被独立评测机构公开要求暂停。Common Sense Media 此前在 2025 年将 ChatGPT 评为青少年高风险、心理健康支持不可接受风险。若“家长通知”等安全功能无法验证,OpenAI 的青少年市场策略将面临监管和信任压力。报告也触及行业核心问题:大模型在长对话中如何稳定执行安全策略,以及推理阶段的安全护栏能否被轻易绕过。
对用户/开发者/创作者的影响
家长需注意:目前公开信息显示,家长通知可能依赖账号绑定满三小时等条件,且测试中未触发;不应把 ChatGPT for Teens 视为可替代人工监护的工具。开发者若集成 OpenAI API 面向未成年人场景,需自行保留独立审核与告警层,不能只依赖平台安全功能。教育类 AI 应用创业者应关注“学习模式”与情感陪伴的边界设计,避免把大模型当作心理支持入口。OpenAI 回应称欢迎独立评估,但认为测试未准确反映实际运行,部分测试可能在 parental controls 完全激活前进行。
AI 工具推荐
想把多个 AI 模型放在一个入口?
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。
推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。
值得关注的后续
观察 OpenAI 是否公布家长通知的触发条件和实测数据;Common Sense 是否发布完整测试方法以回应争议;以及监管机构会否介入青少年 AI 产品的安全认证。目前双方各执一词,产品是否暂停尚无定论,相关评测结果仅限 2025 年 8 月至 9 月的测试条件。
来源:Mashable


