AI 成本优化别随大流,算力要这样管

AI 成本正在从“拼谁能用更便宜的模型”转向“拼谁能少调用模型”。TechRadar 刊文指出,只盯着模型路由和开源模型降价,忽略了更省钱的一环——把可复用的业务逻辑从大模型推理中剥离出来。

一句话看懂:AI 成本正在从“拼谁能用更便宜的模型”转向“拼谁能少调用模型”。TechRadar 刊文指出,只盯着模型路由和开源模型降价,忽略了更省钱的一环——把可复用的业务逻辑从大模型推理中剥离出来。

事件核心:发生了什么

据 TechRadar 报道,Alteryx 首席产品官 Ben Canning 在署名文章中提出上述判断。背景是 AI 支出正快速膨胀:Uber 曾公开抱怨四个月内花掉了原本覆盖 2026 年全年的 AI 预算。此前一段时间,部分科技公司还把员工消耗的 token 数量做成排行榜,如今风向已明显反转。

面对账单压力,业界流行两条省钱思路:一是模型路由,把不同任务分给不同模型;二是采用开源模型或低价的中国模型,例如文中提到的 Kimi K3,以较低价格获得接近前沿水平的能力。Canning 认为这些做法本身成立,但单独使用视野太窄。

为什么重要

文章点出一个容易被忽略的成本结构问题:很多被交给大模型的任务其实是可重复的,比如文件对账、业务规则校验、合规检查、源文档解析。如果让模型每次都从零重建上下文、重新推演内部定义,无论用闭源还是开源模型,token 消耗都是浪费的。

他给出的替代方案是在 LLM 和云数据平台之间加一层“业务逻辑层”,把利润率计算、合规阈值等组织专有规则做成预建分析工作流,模型只消费输出结果,而不是亲自推理。按这个思路,最便宜的 token 是根本没被生成的那个。

对用户/开发者/创作者的影响

对开发者和企业技术团队来说,这意味着成本优化的重点要从“选模型”扩展到“划分职责”:哪些问题必须交给大模型推理,哪些应由确定性工作流处理。把分析逻辑接入云端数据平台,既能减少重复计算,也能避免为同一份数据付两次算力钱。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

文章还提到一个长期收益:加入业务逻辑层后,模型输出在税务、财务、合规等领域的可靠性更容易被验证,团队对 AI 工具的信任提升,反而会加快落地速度,而不是单纯压价。

值得关注的后续

一是模型路由之后,“业务逻辑层”会不会成为新的采购品类,云数据平台与大模型之间的中间件竞争是否升温。二是开源低价模型持续降价,是否会削弱企业自建逻辑层的动力。三是目前公开信息显示,这套思路仍以观点和案例为主,实际成本下降幅度有待更多企业数据验证。

来源:TechRadar

celebrityanime
celebrityanime
文章: 26713

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注