标签: 算力

CPU 回归:重新思考 LLM 推理中的 CPU-GPU 分工

CPU 回归:重新思考 LLM 推理中的 CPU-GPU 分工

红帽开发者博客发文指出,随着工具调用、多步推理和 Agent 编排成为 AI 负载主流,CPU 在 LLM 推理中的角色正从“调度配角”回归为“计算主角”。英特尔提供的数据显示,CPU 与 GPU 的配比正在从训练时代的 1:8 转向 1:1,甚至某些场景达到 4:1。

生成式AI落地中的现实挑战

生成式AI落地中的现实挑战

生成式AI从技术演示走向生产部署,真正的门槛不是模型能力,而是算力成本、输出稳定性、数据安全与效果评测等现实问题。本次原始素材获取失败,但结合标题所指方向,这些环节正在成为行业关注的焦点。

AI Agent 的能耗大约是简单聊天提示的 600 倍

AI Agent 的能耗大约是简单聊天提示的 600 倍

气候科学家 Zeke Hausfather 用八周真实使用数据证明,AI 编程智能体每次输入平均消耗约 150 瓦时电力,大约是普通聊天提示(Gemini 约 0.24 瓦时)的 600 倍。谷歌和 OpenAI 此前公布的“单次查询能耗”远不能代表真实 AI 使用强度。

Freeman Protocol — 构建AI并生存

Freeman Protocol — 构建AI并生存

Product Hunt 上出现了一款名为 Freeman Protocol 的产品,从标题看它试图为开发者提供“构建 AI 并生存”的思路。目前公开信息有限,但它的出现说明 AI 开发正在从纯技术问题,转向更多关于工具链、应用落地与开发者生存策略的探讨。