一句话看懂：AI 芯片初创公司 Etched 发布基于 Transformer 专用架构（ASIC）的 Sohu 芯片，声称在 Llama 70B 推理上服务器集群可达 500,000 token/s，直指 Nvidia GPU 在推理市场的统治地位。但相关跑分目前仅为厂商单方宣称，未经独立验证。
事件核心：发生了什么
Etched 推出的 Sohu 是一款针对 Transformer 架构深度定制的 ASIC 芯片，与 Nvidia 的通用 GPU 路线不同，Sohu 将 Transformer 的核心计算逻辑直接固化在硅片上，以减少通用计算带来的开销。按照 Etched 公布的 8 芯片服务器数据，其 Llama 70B 推理速度可达 500,000 token/s，该公司还给出了单芯片性能参考值。
不过，Hacker News 上的讨论对这些数据提出了明确质疑：这些数字来自 Etched 自己的发布材料，并非第三方基准测试结果，也没有独立机构复现验证。目前公开信息显示，该芯片是否已经流片量产、是否具备向客户交付的能力，仍然缺乏确凿证据。
为什么重要
如果 Sohu 的性能数据属实，它意味着 AI 推理市场可能出现一条不同于 Nvidia GPU 的技术路线——专用 ASIC 在特定模型架构上的能效比和吞吐量可能远超通用 GPU。这会直接影响大模型服务商的算力采购策略，也给“开源权重模型 + 专用芯片”的组合提供了新的商业化想象空间。
但讨论中也提到一个结构性短板：ASIC 从设计到流片周期漫长，而开源社区的最强模型（SOTA）权重迭代速度极快。Sohu 针对的是当前的 Transformer 主流形态，一旦模型架构发生调整，硬件可能迅速落后于最新模型需求。这也是专用芯片长期面临的“追不上模型迭代”的尴尬。
对用户/开发者/创作者的影响
对于运行大模型推理的开发者或企业，如果 Sohu 这类 ASIC 能真正落地并保持性价比优势，长期来看推理成本可能显著下降，特别是高频调用 Llama 等开源模型的场景。但对普通用户和创作者而言，目前影响有限——因为芯片尚未经过市场验证，也没有公开的云服务接入渠道，短期内不会有 API 或应用形态的变化。
AI 工具推荐
想把多个 AI 模型放在一个入口？
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。
推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。
值得关注的后续
以下几个方面值得持续观察：第一，Etched 是否会公布第三方机构或真实客户验证的跑分数据，以及芯片的实际交付时间表和定价策略；第二，Nvidia 是否会针对 Transformer 推理场景推出更激进的优化方案或专用产品线作为回应；第三，开源模型社区在下一次架构迭代时，是否会倒逼 Etched 调整 Sohu 的设计节奏，还是继续押注 Transformer 长期主导。
来源：hackernews
