一句话看懂：一位开发者通过对比实验发现，强制大模型输出严格JSON格式而非自由文本，可使代币输出量平均减少约40%；同时引入参考图像虽使视觉API调用成本翻倍，但因准确率提升而降低了总体重试成本。这些发现揭示了提示工程中“格式约束”比“简洁指令”更有效的实际优化路径。
事件核心：发生了什么
在Hacker News的一则技术讨论中，一位开发者分享了其对大语言模型（LLM）代码生成与代币成本的实测发现。核心结论是：要求模型以严格的JSON schema输出结构化数据，相比自由格式文本，输出代币量平均缩减40%——模型会停止“自我解释”，直接给出答案。此外，在视觉类调用中，附加参考图像使输入成本翻倍，但准确率提升显著，最终因减少重试次数而使总成本更低。讨论还指出，Claude Code最近的多行注释输出趋于冗长，而手动对比“简洁”指令与格式约束的效果差异，是值得深入测试的方向。
为什么重要
这一发现对AI应用的成本优化具有直接指导意义。当前大模型推理成本仍是阻碍规模化部署的关键瓶颈，而提示工程被视为最可控的优化手段之一。该实验量化了“格式约束”相比“指令约束”的代币节省幅度，这在API计费模式中直接转化为实打实的费用降低。同时，视觉调用中“高成本输入带来低成本总体”的实证，挑战了单纯追求低代币数的直觉，提示开发者应基于全链路成本（包括重试、错误处理）评估方案。这反映出一个更深的趋势：随着模型能力的同质化，系统层面的工程优化正取代单纯“调参”成为竞争焦点。
对用户/开发者/创作者的影响
对于直接调用API的开发者，应采用严格JSON schema约束输出格式，而非仅靠自然语言要求“简洁”，尤其是在构建自动化流水线时。视觉类应用开发者应评估引入参考图像的性价比：若当前任务准确率低于可接受阈值且重试成本高，即使输入费用翻倍，整体支出仍可能更低。普通用户在使用AI对话或代码助手时，若观察到输出冗长，可尝试主动要求模型给出结构化答案（如“仅输出JSON”）。对于AI应用团队，建议建立自己的代币成本—准确率矩阵，而非盲目追求最低价格。
AI 工具推荐
想把多个 AI 模型放在一个入口？
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。
推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。
值得关注的后续
一是其他主流模型（如GPT-4o、Gemini 2.0）是否在类似测试中表现一致，这决定策略的可迁移性。二是Claude Code等体量较大的代码助手是否会在后续更新中调整默认输出风格，以回应用户对冗长注释的不满。三是API定价结构是否会因代币节省而调整，例如提供商可能针对JSON输出推出更优惠的计费模式。最后，该讨论中提及的“格式约束 vs 简洁指令”差值测试，值得更多开发者复现并公开数据，以丰富社区的最佳实践库。
来源：hackernews
