随着“Tokenmaxxing”这一企业风潮退去,职场开始寻找更便宜的AI

企业曾热衷于让员工“堆Token”——尽可能使用ChatGPT、Claude等大模型生成内容,但现在这种风潮正退潮。Token成本每两月翻倍,生产力却未同步提升,迫使企业寻找更便宜的AI方案,如模型路由工具和中国开源模型。

一句话看懂:企业曾热衷于让员工“堆Token”——尽可能使用ChatGPT、Claude等大模型生成内容,但现在这种风潮正退潮。Token成本每两月翻倍,生产力却未同步提升,迫使企业寻找更便宜的AI方案,如模型路由工具和中国开源模型。

事件核心:发生了什么

据Slashdot转引美联社报道,科技行业曾鼓吹的“Tokenmaxxing”(最大化Token消耗量)正从春季狂热转向夏季降温。硅谷高管一度将高Token消耗视为高绩效标志,典型场景是员工熬夜编排24小时AI代理替自己工作。但贝恩咨询管理顾问王珏指出,大企业面临Token成本“每两个月翻倍”的困境——以每开发人员每月200美元、共2万开发人员计算,这笔开支已超出任何部门主管的预算预期。

代价换来的是生产率增长不明显。于是企业开始反思“用大炮打蚊子”的做法:并非所有任务都需要Anthropic Claude Opus 4.6这种高阶模型来自动生成邮件。取而代之的是“模型路由”工具——简单查询自动分配给便宜、高效的AI系统,复杂任务才调用强大模型。同时,中国创业公司Moonshot(Kimi)和智谱(GLM)等发布的开源模型,以接近美国顶级模型的能力和远低于其API价格,成为“堆Token派”的新战场。但Mozilla首席技术官Raffi Krikorian认为,整个行业正意识到Tokenmaxxing是“愚蠢的事情”,如同过去用代码行数衡量程序员绩效一样终将被抛弃。

为什么重要

这一变化意味着AI行业的商业模式正从“卖更贵的Token”转向“卖性价比和智能路由”。OpenAI、Anthropic等靠堆Token赚取高收入的大模型开发商面临压力——如果企业持续削减高级模型用量,其营收增长可能放缓。另一方面,模型路由技术和中国开源模型获得市场窗口:企业可能同时采购多个模型并用路由中间件调度,形成“混合AI”架构。这也会迫使美国模型厂商降价或推出更多轻量化版本,否则份额将流向开源阵营和更便宜的替代品。

对用户/开发者/创作者的影响

对企业用户和开发者而言,最直接的影响是API成本有望下降。当你开发的应用调用大模型时,可以主动选择路由策略:用便宜模型处理分类、模板回复等简单任务,仅把推理、创意写作等复杂任务留给高级模型。个人创作者暂时不会感到明显变化,但面向企业市场的AI工具(如助手、客服、内容生成)可能会逐步集成模型路由,降低订阅费或接口调用价。此外,中国开源模型的崛起为开发者提供了不需要绑定美国商业API的选项,有利于供应链多元化。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

1. 模型路由工具是否会成为企业AI基础设施的标配?目前已有公司提供此类中间件,其生态拓展速度值得跟踪。
2. 中国开源模型(如Kimi、GLM)能否在商业化开源中持续提供低价且稳定的大规模推理服务?这将直接影响美国模型的定价策略。
3. 随着Tokenmaxxing退潮,大模型厂商是否会推出更多“轻量级+计费便宜”的细分版本,并调整API定价模型以留住企业客户。

来源:Slashdot

celebrityanime
celebrityanime
文章: 15738

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注