一句话看懂：OpenAI宣布，当青少年用户的ChatGPT账户因违反暴力相关政策被禁用时，将通知已关联账户的家长。这一功能直接回应了2025年一起大规模枪击事件中，OpenAI未能及时通知当局的争议。
事件核心：发生了什么
OpenAI于7月18日宣布，将扩展其家长控制功能，当青少年用户的ChatGPT账户因违反“暴力行为”相关使用政策而被禁用时，系统会向关联的家长或监护人发送通知。具体来说，家长会收到一条“重要更新”提示，点击“了解更多”后可查看孩子账户因违反《暴力行为》政策而被停用的具体信息。
这一功能是OpenAI与专门监控和对抗在线暴力的机构Moonshot合作开发的。Moonshot创始人Vidhya Ramalingam表示，当出现严重问题时通知家长，是“让家庭能及早介入并寻求帮助的关键第一步”。此外，OpenAI还同步推出了从家长控制中直接开启“学习模式”的功能，该模式会在回答问题前先给出提示，帮助学生思考。同时，ChatGPT将向长时间使用的青少年用户显示更频繁的休息提醒，以培养健康的数字习惯。
该政策的直接背景是2025年加拿大不列颠哥伦比亚省Tumbler Ridge大规模枪击事件。调查发现，嫌疑人曾使用ChatGPT，且OpenAI在封禁其账户时并未通知当局。事后，加拿大当局传唤了OpenAI，CEO Sam Altman也为这一疏忽道歉。
为什么重要
这一举措表明，AI服务商在用户安全与社会责任之间的责任边界正在被法律与公众舆论重新定义。传统上，平台对用户违规行为的处理主要依赖于内部封禁，但AI聊天机器人因其生成内容的能力，可能被用于策划或激励暴力行为，这要求平台从“被动封禁”转向“主动预警”。对于OpenAI而言，这不仅是对加拿大事件的合规补救，更是在全球范围内为AI平台的暴力内容治理设定了一个新标准：当AI检测到潜在严重风险时，平台有义务将信息传递到有能力干预的成年人或执法机构手中。类似机制未来可能成为AI监管政策中的强制性要求。
对用户/开发者/创作者的影响
对普通用户（特别是青少年及家长）：家长可以更直接地了解孩子在ChatGPT上是否参与了高风险对话或内容。对于未成年人而言，这意味着其与AI的交互不再完全匿名，极端内容的生成和使用将面临更严厉的后果。家长需要意识到，账户关联后，孩子的违规行为会直接触发通知，而非仅仅内部封禁。
AI 工具推荐
想把多个 AI 模型放在一个入口？
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。
推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。
对开发者与企业客户：对于构建青少年或教育相关AI应用的企业，此功能提示了内容安全和家长通知机制的重要性。开发者可能需要参考OpenAI的做法，在AI产品中增加类似的风险评估和预警链路，尤其是在涉及未成年人或高风险场景时。同时，企业采购AI服务用于教育或儿童场景时，应关注供应商是否提供了足够的家长监控和暴力干预工具。
对内容创作者与教育者：“学习模式”和休息提醒的加入，暗示了AI在辅助学习与防止沉迷方面可以更积极。教育机构在引入ChatGPT作为教学工具时，可以更清晰地设置使用边界和监护角色。
值得关注的后续
第一，该通知功能的实际触发阈值和误判率尚不明确。家长是否会因AI对暴力玩笑或虚构情节的误判而收到过多通知，将直接影响用户信任。第二，其他平台是否跟进。Google、Meta、微软等拥有聊天机器人或AI搜索的厂商，类似事件后是否会采取相同策略，可能形成行业惯例。第三，监管立法跟进。加拿大当局对此事的持续调查，以及美国、欧盟对AI平台安全报告义务的讨论，可能推动更明确的“AI暴力预警”法律责任规定出台。
来源：Engadget
