一句话看懂：据 404Media 报道，OpenAI 内部存在名为“Lily 项目”的人工审核机制，由外包审核员查看 ChatGPT 真实用户对话样本来评估模型回复质量。这揭开了大模型优化中长期被忽视的一环：在自动化训练之外，人类仍在直接接触用户聊天内容。
事件核心：发生了什么
报道称，OpenAI 的“提示审核员”需要浏览经匿名化处理的真实对话样本，重点判断回答是否切题，以及是否出现过度“AI 味”、说教语气、表情符号或谄媚表达。项目准则明确禁止模型使用拟人化表述和虚构“个人经历”，例如可以说“我找到了一些相关信息”，但不能写“作为一名厨师，我喜欢……”。这类任务时薪据报道超过 50 美元，难度较低。
更受关注的是隐私问题。虽然 OpenAI 声称对话已匿名化、用户名被隐藏，但公司也向媒体承认，过滤流程可能遗漏部分个人信息，短对话尤其容易出问题。交给审核员的版本中还常附带“用户记忆摘要”，包含提问内容、兴趣背景甚至位置信息。此外，普通聊天机器人默认开启“允许使用对话记录改进产品”，企业版、商业版和教育版默认关闭，但关闭开关不具备追溯效力，已收集内容可能已被匿名化存储。OpenAI 最初未直接回应用户是否被明确告知聊天可能被人工查看，报道发布后更新了帮助页面，增加退出数据收集的方式，但仍未直接说明员工会阅读对话内容。
为什么重要
大模型常被描述为“算法加算力加数据”的自动产物，但 Lily 项目说明，人工审核仍是模型对齐和安全评估的底层支撑。这并非 OpenAI 独有：Google Gemini 在隐私中心说明部分保存的聊天记录可能被人工查看，Anthropic 也有类似表述，Perplexity 的政策则相对模糊。差别在于披露的清晰度。对行业而言，这关系到用户信任：如果聊天记录被当作训练和评估资产，隐私边界、知情同意和数据处理链条就需要更明确的规则。目前公开信息显示，Lily 项目并不专门核查事实准确性，只标记明显错误，效果评估与安全审查通常由其他独立团队负责。
对用户/开发者/创作者的影响
对普通用户来说，把 ChatGPT 当作情感树洞或倾诉对象时，需要意识到对话可能经过人工审核，即便已匿名化，短对话和记忆摘要仍可能暴露上下文。开发者若基于闭源 API 构建 AI 应用，同样要关注上游数据政策：终端用户的对话是否会被用于改进产品、能否关闭、关闭是否追溯，都会影响合规设计。企业采购方则应优先确认商业版、教育版等默认关闭数据收集的选项，但需注意历史记录无法撤回。创作者在使用大模型辅助内容生成时，涉及未公开创意、客户信息或敏感素材的内容，建议避免直接输入。
AI 工具推荐
想把多个 AI 模型放在一个入口？
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。
推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。
值得关注的后续
一是 OpenAI 是否会在帮助文档中更直接地说明人工审核范围；二是默认开启的数据收集开关是否会调整，以及删除对话后数据是否真正从训练和评估数据集中移除；三是其他厂商是否跟进更新隐私政策，把“人工查看”从模糊表述变为明确条款。监管层面，若类似机制被认定为需要单独告知的数据处理行为，可能影响相关产品在部分地区的上线方式。
来源：AIbase
