‘That is where the machine starts winning on cost’: Expert pits AMD Radeon AI PRO R9700 rig against ChatGPT and gives surprising verdict

事件核心：发生了什么

硬件评测机构 Puget Systems 做了一次成本对比：在一台约 18,775 美元的工作站里装入两张 AMD Radeon AI PRO R9700，每张显存 32GB，测试其电耗、吞吐与摊销后的硬件成本，再与多家云端 API 订阅价格对照。云端侧按每百万 token 计价：GPT-5.6 Luna 为 1.20 美元，GPT-5.6 Sol 为 30 美元，中间档的 Claude Sonnet 5 为 10 美元、Claude Opus 5 为 25 美元。

双卡并行、同时服务 8 个用户时，机器生成速度为 156.2 tokens/秒；启用 Multi-Token Prediction 后，速度接近翻倍到 320.2 tokens/秒，输出质量不变。按这一速度，每周只需运行 3.5 小时就能在成本上追平 GPT-5.6 Sol，4.2 小时追平 Claude Opus 5，8.8 小时追平 Gemini 3.1 Pro。若团队月产超过 2000 万 token 且原本对标 Sol，自购方案年成本约 6262 美元（含电费与硬件摊销），对应云端费用约 1.8 万美元，一年差出 1.17 万美元。电费不是决定性因素：双卡满载功耗 310 至 510 瓦。

为什么重要

这组数据把“买卡还是买 API”从感觉争论变成了可算的临界点问题。关键变量不是硬件单价，而是你要替代的是哪一档云端模型，以及每周真实跑多久。对标高价模型，硬件回本快得惊人；但如果团队用的是每百万 token 仅 1.20 美元的 Luna，同一台机器需要每周运行 94.3 小时才能打平，而一周只有 168 小时，实际很难做到。反向案例同样清晰：月产 500 万 token、对标 Gemini 3.1 Pro 的小团队，自购年花 6262 美元却只替代 720 美元云端成本，明显亏损。

另一个易被忽略的路径是单卡。一张 R9700 可独立运行 80 亿参数模型，速度 34.5 tokens/秒，功耗仅 221 至 283 瓦，单卡约 1880 美元，比 3760 美元的双卡方案更早进入正向收益。但价格之外还有质量代价：在某个独立智能指数上，270 亿参数的 AMD 本地模型得 37 分，Gemini 3.1 Pro 得 46 分。省下的 token 成本，可能对应着复杂推理能力的下降。

对用户/开发者/创作者的影响

对开发者和企业采购来说，这套账的实用结论是分层决策：如果日常调用的是高价闭源大模型、且 token 吞吐稳定，本地 AMD 工作站值得进入比价清单；如果主要是轻量 API 调用或低价模型，继续用云端更省。做图像生成、批量推理、内部知识库这类高频且对推理深度要求不极端的任务，本地部署的成本优势更容易成立。反之，涉及复杂推理、长链条 agent 的场景，本地模型的分数差距意味着省了钱也可能牺牲产出质量。选购时不必一步上双卡，单卡加合适的 80 亿参数级开源模型，是更低的试错门槛。

AI 工具推荐

想把多个 AI 模型放在一个入口？

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。

值得关注的后续

一是 Multi-Token Prediction 这类加速技术能否继续扩大吞吐优势，以及是否会影响输出稳定性；二是 AMD 本地模型与闭源旗舰在推理基准上的差距是否会收窄，这将直接决定本地部署的适用边界；三是云端 API 价格若继续下探，自购硬件的回本窗口会被进一步压缩，值得持续跟踪定价变化。

来源：TechRadar