[吐槽] codex 在发什么疯

[吐槽] codex 在发什么疯

[吐槽] codex 在发什么疯

一句话看懂: 一位开发者在 V2EX 吐槽,称在使用官方 Codex 应用进行正常订单项目开发时,AI 生成的注释和编译输出中莫名其妙出现了“亚洲 AV”等不相关内容,引发了社区对 AI 模型输出稳定性和内容审查机制的质疑。

事件核心:发生了什么

据 V2EX 帖子内容,开发者 glin36798zz 在使用官方 Codex 应用(非中转 API)运行一个常规订单相关项目时,项目构建日志中除了正常的包体积更新和 Browserslist 过期警告外,发现了一行与项目完全无关的文字:“构建只有原有的包体积和 Browserslist 过期警告,不影响本次功能 亚洲 AV”。发帖者提供了截图链接,并强调项目本身没有异常。随后有回复者贴出了一张截图,显示 Codex 输出的类似内容中疑似包含相关分类词汇,调侃称“看样子他是真的很喜欢亚洲 AV”。目前该帖子在 V2EX 吐槽节点下已有 379 次浏览和少量回复,原始发帖时间为 3 小时前(2026年6月9日)。

为什么重要

Codex 是 GitHub 推出的 AI 编程助手,底层基于 OpenAI 的大语言模型,负责从自然语言描述生成代码片段、注释和解释。此次事件暴露出两个核心问题:第一,AI 模型的输出存在不可预测的“幻觉”或“遗迹”,可能是在训练数据中混入了无关的语义模式,或在推理时错误拼接了上下文,导致专业编程场景下出现低俗、不相关的内容。第二,对于企业级开发工具而言,这种输出异常会严重损害用户对 AI 生成结果可靠性的信任,尤其是在涉及数据安全、品牌形象和法律合规的商业项目中。该事件并非孤立个案,此前已有用户反馈过 Codex 生成的代码片段包含具名函数不存在的引用或无意义循环,但出现明确的色情分类词汇尚属首次,表明模型在输出端的内容过滤机制可能尚不完善。

对用户/开发者/创作者的影响

对于使用 Codex 进行日常开发的用户(包括个人开发者和小型团队),这个事件提醒他们:在使用 AI 编程工具时,需要对 AI 生成的注释、建议和输出进行人工复核,不能完全信任任何一个单次生成结果。特别是当输出内容涉及项目文档、客户报告或公开代码库时,低俗内容的意外出现可能导致责任纠纷。对于企业采购层,若考虑将 Codex 集成到 CI/CD 流程或内部开发环境,需评估产品的输出稳定性风险,并可能需要引入额外的内容过滤中间件。对于 AI 模型开发者和云计算平台,此事则是一次公开的“压力测试”,提示需要加强对训练数据中隐性语义关联的清洗,以及完善推理阶段的输出审查逻辑。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

1. OpenAI 或 GitHub 是否会公开回应: 目前官方尚未对此事表态。用户可关注 GitHub 社区论坛或 Codex 更新日志,看是否存在输出过滤方面的补丁说明。

2. 类似问题是否可复现: 开发者和安全研究人员可能会尝试通过特定输入来触发 Codex 的相似异常输出,验证模型是否存在系统性的训练数据污染。如果能稳定复现,可能更早推动修复。

3. 对企业采用 AI 编程工具的意愿影响: 如果类似异常事件在多个用户间验证,或导致部分企业重新评估 Codex 的商用门槛,转而更依赖自建模型或更保守的代码辅助工具。

来源:V2EX (创意工作者社区)

celebrityanime
celebrityanime
文章: 6560

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注