celebrityanime

celebrityanime

[问与答] 好奇 LLM 厂商是怎么给模型定价的

[问与答] 好奇 LLM 厂商是怎么给模型定价的

V2EX 社区用户发起了一个关于大模型定价逻辑的讨论,核心问题是大模型厂商如何计算每百万 tokens 输出的成本。两位社区用户从硬件利用率、推理性能与队列控制等角度给出了技术性解释,揭示了当前 AI 推理服务商业化中成本结构与定价模型之间的直接关系。