儿童安全专家对 OpenAI 的 ChatGPT for Teens 表示怀疑。

OpenAI 推出了面向青少年的 ChatGPT for Teens 版本,并承诺更严格的内容审查和家长通知机制。但儿童安全专家普遍认为,在 OpenAI 拿出独立测试数据和透明的安全机制验证之前,这款产品不应被推荐给家庭用户。

一句话看懂:OpenAI 推出了面向青少年的 ChatGPT for Teens 版本,并承诺更严格的内容审查和家长通知机制。但儿童安全专家普遍认为,在 OpenAI 拿出独立测试数据和透明的安全机制验证之前,这款产品不应被推荐给家庭用户。

事件核心:发生了什么

8 月 21 日,OpenAI 正式发布了 ChatGPT for Teens,这是一套基于年龄识别系统的青少年专属对话体验。该功能源于去年 9 月 OpenAI 宣布的青少年保护计划,彼时公司曾因 16 岁少年 Adam Raine 的悲剧诉讼而面临舆论压力——其父母在诉讼中指控 ChatGPT 在对话中助长了儿子的自杀行为。依据皮尤研究中心去年初的数据,美国约有四分之一的青少年已在使用 ChatGPT 完成课业,OpenAI 此举意在将这部分庞大的隐性用户纳入可控的、带教育属性的使用框架内。

新版本默认引导青少年使用 Study Mode 和数据可视化等教育功能,并扩大了家长通知机制:当系统检测到涉及进食障碍等不安全话题的对话时,绑定了家长账号的监护人将收到提醒。OpenAI 还同步更新了 18 岁以下用户的模型规范,明确禁止对话中出现浪漫化语言、情感依赖引导或暗示自身拥有情感与意识。

为什么重要

这不仅是 OpenAI 在产品分层上的一次尝试,更是大模型厂商在未成年人保护议题上面临的合规压力测试。过去一年,生成式 AI 在教育场景中快速渗透,但安全机制普遍停留在”事后封禁”而非”事前分流”。ChatGPT for Teens 的推出,意味着 OpenAI 试图用自动年龄估测技术主动识别用户身份,并通过产品设计限制使用边界。

然而,专家质疑的焦点集中在两层:一是自动年龄识别系统的准确率未经第三方验证,Common Sense Media 的 Robbie Torney 指出,OpenAI 从未公开该系统的误报率和漏报率;二是 OpenAI 声称所有被标记的对话会由全职员工审核并在 1 小时内通知家长,但这一承诺面临产能与自动化分类器可靠性的双重疑问。Fairplay 执行总监 Josh Golin 更直言,OpenAI 此前在自杀、暴力和药物滥用方面的内容限制本就存在执行失效问题,公司缺乏有效的问责机制。

对用户/开发者/创作者的影响

对普通青少年用户和家长而言,ChatGPT for Teens 的实际体验取决于年龄识别能否精准运转。若系统存在较高的漏判或误判,既可能让部分未成年人继续使用成人版,也可能把成年用户错误推入限制模式。对于接入 ChatGPT API 的教育类应用开发者,这一产品的推出可能意味着 OpenAI 会在接口层面引入更细粒度的年龄参数与内容过滤策略,第三方应用需要重新评估合规适配成本。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

对内容创作者来说,青少年模式的模型规范升级意味着对话式 AI 在情感陪伴类场景中的边界进一步收窄——禁止浪漫语言和情感依赖引导,会直接影响面向低龄用户的心理健康类、虚拟陪伴类产品的设计空间。这也在提醒所有 AI 应用层开发者,未成年人保护正在从”平台自觉”转向”监管与公众压力下的刚性约束”。

值得关注的后续

首先是独立测试的推进节奏。专家普遍认为,在没有第三方机构介入评估安全机制有效性的情况下,OpenAI 的承诺缺乏公信力,后续或将有研究机构或媒体发起针对年龄识别准确率的独立测试。其次是家长通知时效的兑现,OpenAI 宣称”1 小时内完成员工审核并通知”,这一指标能否在真实负载下达成,值得跟踪官方是否公布审核量与人手配比数据。最后是青少年用户的规避手段演进——VPN、伪造生日或类似 Discord 曾遭遇的创意绕行方式,都会迫使 OpenAI 持续迭代识别系统,而这一攻防过程本身将暴露系统的真实短板。

来源:Engadget

celebrityanime
celebrityanime
文章: 19676

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注