[人工智能] AI 写项目就想熵增

一句话看懂：一位 V2EX 用户在社区抛出一个观点：当 AI 以 90% 的正确率生成代码或内容时，随着项目规模扩大，每次迭代叠加的错误会指数级累积，导致最终正确率趋近于零。这引发了关于“AI 写项目像熵增”的讨论，即 AI 在长链条任务中并不具备真正的纠错能力，反而会放大早期错误。

事件核心：发生了什么

在 V2EX 的“人工智能”板块，用户 PiersSoCool 发布了一个观察帖子，题目为“AI 写项目就想熵增”。核心观点是：假设 AI 每一步的准确率为 90%，错误率为 10%。当 AI 生成内容时，它会基于之前生成的全部内容继续思考——包括正确的和错误的。这意味着随着步骤增多（0.9 × 0.9 × 0.9……），正确率会指数级下降。换句话说，传统概率论中的“精确率衰减”问题被引入到 AI 生成复杂项目的实际场景中。该帖子发布后获得 96 次浏览，目前尚无公开评论。没有提及具体模型名称或产品实体，但该议题直指当前大语言模型（LLM）在长上下文、多步骤生成任务中的核心弱点。

为什么重要

这一观点虽然基于简单的概率模型，却精准指向了 AI 应用规模化的根本矛盾。目前，无论是闭源的大语言模型（如 OpenAI 的 GPT 系列、Anthropic 的 Claude）还是开源模型（如 Llama 家族），在单轮对话或单步生成任务中表现优异，但实际商业项目（如完整代码仓库、长篇文档、复杂逻辑链）要求模型在数十甚至数百个步骤中保持逻辑一致性。如果模型缺乏有效的“回溯纠错”或“反馈闭环”机制，仅仅依靠堆砌算力、扩大模型参数量，很难解决这种“累积性错误”。这个讨论提醒从业者：AI 开发的瓶颈正从“单点能力”转向“长流程的可靠性”。

对用户/开发者/创作者的影响

对于使用 AI 写代码的开发者，这意味着不能盲目信任 AI 在大型项目中的输出。即便每个函数片段看起来正确，整体系统的稳定性可能远低于预期。开发者需要引入更严格的测试覆盖、人类审查节点，甚至考虑在 AI 工作流中嵌入“回滚检测”。对于利用大模型进行长篇内容创作的写作者或视频脚本创作者，类似的逻辑同样适用：AI 生成的故事线、论点链条或者知识体系，在长上下文中的前后矛盾风险会显著增加。企业采购 AI 代码助手或内容生产工具时，应优先考察产品是否支持“错误追踪”与“分步验证”能力，而不是只看基准测试分数。

AI 工具推荐

想把多个 AI 模型放在一个入口？

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。

值得关注的后续

第一，主要 AI 模型厂商（如 OpenAI、Google、Meta）是否会推出针对“长链任务可靠性”的专项改进，例如更细粒度的“置信度标记”或“自动错误检测”功能。第二，开源社区是否会出现专门的“AI 项目审计工具”或“步骤回滚插件”，以辅助开发者对抗这种概率性误差累积。第三，在技术路线上，能否出现不依赖纯概率推理的架构（例如结合符号推理或强化学习中的“奖励步长”），从根本上缓解“AI 写项目如熵增”的困境。

来源：V2EX (创意工作者社区)