一句话看懂:美国非营利组织 Common Sense Media 发布风险评估,将 OpenAI 的 ChatGPT for Teens 评为“不可接受风险”,认为 18 岁以下用户不应使用该产品;OpenAI 否认测试结果,称其不反映实际防护效果。
事件核心:发生了什么
Common Sense Media 在 2026 年 10 月发布报告,其 Youth AI Safety Institute 对 ChatGPT for Teens 进行了测试。研究团队使用注册为 13 至 17 岁的账户,输入超过 4,000 条提示词,其中一半测试在 8 月 18 日 Teen Mode 上线前完成,另一半在上线后完成,以对比新模式的实际变化。
测试发现多项问题:当测试者在与家长关联的账户上讨论自杀念头、自残和饮食失调时,没有触发家长提醒;提醒仅在账户有数周敏感话题历史时才出现,暗示其依赖历史行为而非消息严重程度。在超过四分之一需要危机支持的场景中,ChatGPT 未能引导青少年寻求帮助。部分防护可被绕过:Study 模式下“Show me the answer”按钮可跳过辅导,青少年可通过删除消息前缀来覆盖家长设置的学习时间。年龄验证也未如预期工作,注册为成人的测试账户多日后仍未切换至青少年版本。性角色扮演等部分限制则未被绕过。OpenAI 发言人回应 Education Week 称,不认为该测试准确反映实际防护机制。
为什么重要
这是 Common Sense Media 继 2025 年 10 月将 ChatGPT 整体评为“高风险”、一个月后又将心理健康支持评为“不可接受风险”后的进一步收紧。该组织此前曾协助 OpenAI 撰写面向开发者的青少年安全政策,其评级对家长、学校和监管机构具有参考价值。目前公开信息显示,AI 青少年模式在年龄识别、家长监督和危机干预方面仍存在系统性挑战,此类第三方评估可能影响 OpenAI 与教育机构、监管者的合作关系,并推动行业对青少年 AI 安全标准的讨论。
对用户/开发者/创作者的影响
对普通用户而言,家长应审慎看待 Teen Mode 的家长提醒功能,不宜将其视为独立的安全保障;青少年使用 ChatGPT 时,监护人或教育者需保持关注。对开发者和 AI 应用团队来说,年龄验证、家长控制、危机干预提醒等模块需要更鲁棒的设计,不能仅依赖用户历史行为触发。若平台后续收紧青少年相关 API 或功能权限,面向未成年人的教育类 AI 应用可能需要调整产品逻辑或增加合规措施。创作者在涉及心理健康、自残等敏感话题的内容生成时,也需意识到模型可能无法可靠提供干预引导。
AI 工具推荐
想把多个 AI 模型放在一个入口?
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。
推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。
值得关注的后续
一是 OpenAI 是否公开回应具体测试用例,或调整 Teen Mode 的家长提醒触发逻辑与年龄验证机制;二是 Common Sense Media 的评级是否影响学校、学区对 ChatGPT 的采购决策;三是其他 AI 厂商是否跟进推出经过第三方审计的青少年安全模式,以及监管机构是否将此类评估纳入合规参考。
来源:The Next Web


