据报道,亚马逊工程师正在提炼人择模型,以在新的基于代币的定价生效之前降低成本

据The Information报道,担心成本上升,亚马逊工程师正在用“蒸馏”技术将Anthropic的模型变小变便宜,内部使用。此举发生在双方重新议价,明年将按token量而非算力时数计费的前夕。

据报道,亚马逊工程师正在提炼人择模型,以在新的基于代币的定价生效之前降低成本

一句话看懂:据The Information报道,担心成本上升,亚马逊工程师正在用“蒸馏”技术将Anthropic的模型变小变便宜,内部使用。此举发生在双方重新议价,明年将按token量而非算力时数计费的前夕。

事件核心:发生了什么

据The Information 6月29日报道,亚马逊部分工程师已在蒸馏Anthropic的模型。蒸馏是用一个小模型学习大模型输出结果,从而做出成本更低的内部版本。知情人士称,亚马逊拥有为此目的使用Anthropic模型的权利,类似苹果与Google Gemini的合作。亚马逊在其Bedrock云平台上已有蒸馏服务,但仅支持自家Nova模型和Meta的Llama模型,Anthropic的Claude不在此列。

背景是亚马逊与Anthropic重新谈判了合作条款。从明年起,亚马逊将按处理的token数量而非计算时长为Anthropic模型付费,这可能导致成本激增。亚马逊发言人反驳称合作扩大不会推高成本,Anthropic则强调其模型性能对应的价格更低。此外,亚马逊今年已向Anthropic追加投资高达250亿美元,并向OpenAI投资高达500亿美元,同时也在探索OpenAI和自己Nova模型等替代方案。

为什么重要

这件事展现了AI大厂在商业化落地中面临的真实矛盾:模型性能越强,推理成本越高。亚马逊作为云服务巨头,既要保证内部团队能用上顶级模型,又得为自身利润率考虑。主动蒸馏第三方模型而非完全依赖自研,说明Anthropic的Claude在特定任务上仍有不可替代的优势,但亚马逊也不愿坐等账单失控。此举可能重塑其与Anthropic的生态关系:如果蒸馏版足够好用,亚马逊对原生Claude的调用量反而可能下降,进而影响未来的采购谈判。

对AI行业而言,这是一个信号:无论模型多强,成本控制才是大规模内部应用的关键。亚马逊在Bedrock上只开放自家和Meta的蒸馏服务,也暗示了其未来更倾向用开源或自研模型做轻量化部署。

对用户/开发者/创作者的影响

对依赖AWS基础设施的开发者来说,如果亚马逊内部成功蒸馏出Claude变体,未来可能通过Bedrock推出成本更低的Claude衍生服务,供第三方使用。但短期内,该服务仅限内部,不会直接公开。对使用Anthropic API的开发者而言,明年按token计费后,现有API价格未必会涨,但内部蒸馏表明亚马逊在“降本”,如果竞争加剧,Anthropic可能主动降价以维持份额。对企业采购决策者,这值得关注:如果自建蒸馏版比直接API划算,大客户可能会要求类似代工或私有化部署方案。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

1. 亚马逊是否会将蒸馏后的Claude变体通过Bedrock对外开放,或作为私有化部署选项。2. 明年新定价落地后,Anthropic API的实际价格是否有明确变化,与OpenAI、Llama的性价比对比如何。3. 亚马逊对自研Nova模型的投入是否会加速,替代第三方的趋势是否显现。

来源:The Decoder AI News

celebrityanime
celebrityanime
文章: 10463

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注