你的ChatGPT对话可能被真人看过:OpenAI人工审核机制曝光

404Media 调查发现,OpenAI 雇用了数百名合同工对真实的 ChatGPT 用户对话进行人工评分,以优化模型表现;这意味着用户与 ChatGPT 的聊天记录可能被人看过,而相关披露被认为不够直观。

一句话看懂:404Media 调查发现,OpenAI 雇用了数百名合同工对真实的 ChatGPT 用户对话进行人工评分,以优化模型表现;这意味着用户与 ChatGPT 的聊天记录可能被人看过,而相关披露被认为不够直观。

事件核心:发生了什么

根据 404Media 的调查,OpenAI 通过外包方式雇用了数百名合同工,专门审阅真实用户的 ChatGPT 对话,并对模型回复按 1 到 7 分进行打分,目标是减少过度迎合、过度拟人化等回答问题。这些合同工由 Crossing Hurdles 招募,薪资由 AI 训练公司 Mercor 发放,一位北美评论者称其时薪超过 50 美元。

OpenAI 目前默认开启“为所有人改进模型”设置,用户手动关闭后,新产生的聊天记录将不再用于模型训练及相关人工审核;临时聊天模式下的输入数据也不会用于训练。OpenAI 的 FAQ 至少从 2023 年起就提到,授权人员和服务提供商可能查看用户数据以改进模型性能,并建议不要输入敏感信息。目前公开信息显示,OpenAI 近期并未就人工审核机制做新的专门说明。

为什么重要

人工反馈早已是大模型优化的常规环节。Anthropic 也确认会在开启相关隐私设置的前提下对 Claude 对话做人工审核,并在审核前匿名化处理;Google 同样允许人工审核员查看部分 Gemini 聊天记录。问题不在于“是否有人工审核”,而在于披露是否清晰、用户是否真的理解自己的数据会被谁看到、看到什么程度。对 OpenAI 而言,这既是模型质量与安全对齐的必要投入,也是隐私信任的潜在风险点。在监管趋严、企业客户对数据合规愈发敏感的背景下,审核流程的透明度会直接影响其商业化空间。

对用户/开发者/创作者的影响

普通用户需要注意的是:即便对话经过匿名化处理,仍可能包含可识别个人身份或敏感业务的信息。若不希望新对话被用于训练和人工审核,可在设置中关闭“为所有人改进模型”,或使用临时聊天模式。开发者和企业用户在把 ChatGPT 接入工作流、API 或内部知识库时,应重新评估数据分级策略,避免将客户数据、未公开代码或商业机密输入到默认开启训练的会话中。创作者同样要留意,未发布的剧本、文案或选题构思如果进入普通对话,存在被人工审阅的可能。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

一是 OpenAI 是否会调整默认设置或改进隐私说明的呈现方式,让用户更直观地理解人工审核范围;二是 Anthropic、Google 等竞品是否会跟进更新披露口径,形成行业惯例;三是监管机构是否会就 AI 对话数据的人工审核提出更明确的合规要求,进而影响相关产品的上线与运营方式。

来源:AIbase

celebrityanime
celebrityanime
文章: 23479

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注