Common Sense Media 评 ChatGPT for Teens 风险不可接受,OpenAI 反驳测试时机

2026 年 10 月 7 日,Common Sense Media 发布评估称 OpenAI 的 ChatGPT for Teens 存在“不可接受的风险”,认为家长警报和危机干预功能未达承诺,OpenAI 则质疑其测试方法未能准确反映实际运行情况。

一句话看懂:2026 年 10 月 7 日,Common Sense Media 发布评估称 OpenAI 的 ChatGPT for Teens 存在“不可接受的风险”,认为家长警报和危机干预功能未达承诺,OpenAI 则质疑其测试方法未能准确反映实际运行情况。

事件核心:发生了什么

2026 年 10 月 7 日,专注青少年安全的非营利组织 Common Sense Media 发布对 OpenAI 青少年版 ChatGPT 的评估。该产品于 2026 年 8 月推出,声称针对青少年设置了学习辅助和安全护栏。但 Common Sense Media 指出,其青少年保护措施“未达到公司承诺”,具体问题包括:在应该通知家长时未发送警报、在危机情境中未提供恰当帮助、以及仍然会直接代写作业。

Common Sense Media 青年 AI 安全研究所执行主任 Tom Siegel 表示,青少年可能花一小时谈论自残内容而家长未收到任何警报,在 OpenAI 修复并经过独立测试验证之前,ChatGPT 应仅限成人使用。OpenAI 发言人 Eric Porterfield 回应称,公司深度致力于青少年安全,欢迎严格独立评估,但认为 Common Sense Media 的测试可能大部分在家长控制功能完全激活之前就已开始和结束,因此无法验证警报系统是否按设计工作。Siegel 则回应称,测试前已与 OpenAI 确认青少年模式相关功能已完全上线,部分测试账号关联时间远超激活窗口但仍无通知,结论不变:家长警报在危机情境中不可靠。

为什么重要

这一争议触及 AI 青少年保护的核心矛盾:产品功能宣称与实际运行效果之间的差距,以及谁来验证这种效果。Common Sense Media 是美国家长和学校广泛参考的独立评估机构,其“不可接受风险”结论可能影响学校采购和家庭使用决策。对 OpenAI 而言,ChatGPT for Teens 是其拓展教育场景、建立青少年用户习惯的关键产品,若安全信誉受损,可能面临更严格的监管审视,也可能影响其与教育机构的合作。

更深层看,事件反映出 AI 安全功能“可展示”与“可依赖”之间的鸿沟。家长控制、危机干预等机制若不能稳定触发,就会制造虚假安全感,这正是 Common Sense Media 反对的核心逻辑。目前公开信息显示,双方分歧集中在测试时机的技术细节上,而非功能是否存在。

对用户/开发者/创作者的影响

对家长和青少年用户而言,在争议解决前,不宜将 ChatGPT for Teens 的家长警报视为可靠的监护工具,尤其涉及心理健康风险时应保持人工关注。对开发者和 AI 应用设计者来说,这提醒安全功能需要明确的可观测性设计:通知触发条件、延迟窗口、测试验证标准都应在产品文档中透明说明,否则独立评估和用户信任都难以建立。对教育机构和创作者,若计划将 ChatGPT 集成到面向青少年的产品或课程中,建议关注 Common Sense Media 完整评估报告和 OpenAI 后续回应,评估合规与声誉风险。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

一是 OpenAI 是否会公开家长通知系统的触发机制与延迟数据,以回应“激活窗口”争议;二是 Common Sense Media 是否会发布完整评估细节并推动第三方复测;三是这一争议是否引发监管机构对 AI 青少年安全功能的额外审查要求。目前双方均未宣布产品功能变更。

来源:The Verge

celebrityanime
celebrityanime
文章: 27987

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注