Common Sense报告称ChatGPT青少年版不安全,呼吁OpenAI暂停产品

Common Sense Media旗下Youth AI Safety Institute发布报告,称ChatGPT for Teens存在安全漏洞且设置失效,要求OpenAI暂停该产品并停止向青少年推广,OpenAI则反驳研究方法有缺陷。

一句话看懂:Common Sense Media旗下Youth AI Safety Institute发布报告,称ChatGPT for Teens存在安全漏洞且设置失效,要求OpenAI暂停该产品并停止向青少年推广,OpenAI则反驳研究方法有缺陷。

事件核心:发生了什么

据Mashable 2026年10月7日报道,非营利组织Common Sense Media旗下的Youth AI Safety Institute发布报告,认定OpenAI于2026年8月上线的ChatGPT for Teens(面向13至17岁用户)是不安全产品,建议在产品缺陷修复前暂停服务,并停止相关市场推广。研究员在8月底至9月间用同一批账号测试了家长通知、功能检查、心理健康、学术诚信和年龄预测等类别,发现学习护栏和家长控制可被轻易绕过,涉及饮食失调和自残的长时间对话未触发任何家长通知,且聊天机器人仍以朋友口吻互动。OpenAI否认相关指控,称测试未准确反映实际防护机制,并指部分测试可能在家长控制完全激活前进行,强调内部监控结果与报告结论不符。

为什么重要

该报告触及AI产品在未成年人保护与商业化之间的核心矛盾。OpenAI正将ChatGPT推向教育场景,青少年版是其关键增长方向,一旦安全漏洞被监管或舆论放大,可能影响产品上线节奏与行业标准制定。目前公开信息显示,Common Sense Media在2025年已给ChatGPT打出“青少年高风险”和“心理健康支持不可接受风险”的评级,此次测试直接针对已上线的青少年模式,结论比此前更具体。若其他独立机构跟进,大模型厂商在年龄预测、家长通知和情感边界上的技术方案将被迫加速迭代。

对用户/开发者/创作者的影响

对于家长,报告提示当前家长通知机制可能不可靠,依赖产品内置控制来监护孩子使用AI仍有风险。对于开发者和AI应用团队,这意味着面向青少年的AI功能需要更严格的年龄验证、通知触发逻辑和心理健康护栏设计,否则可能面临合规与声誉压力。对于教育科技采购方,选择集成ChatGPT类工具时,需把独立安全评估纳入采购清单。同时,OpenAI建议家长和青少年账号需关联约三小时后通知才会生效,这一细节若被验证,将影响产品实际可用性。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

一是OpenAI是否会调整ChatGPT for Teens的家长通知机制或暂停部分功能;二是Common Sense Media的测试方法能否被其他独立研究复现;三是监管机构是否会介入,要求大模型产品提供更透明的青少年安全评估数据。目前双方各执一词,后续需要更完整的测试条件披露才能判断实际风险边界。

来源:Mashable

celebrityanime
celebrityanime
文章: 28041

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注