Homebench – 基准测试本地LLM的速度、内存和质量

独立开发者发布了一款名为 Homebench 的开源本地大模型基准测试工具,它的特别之处不是“跑分”,而是从速度、内存、质量三个维度诚实讨论当前本地 LLM 评测的常见误区。目前公开信息显示,该项目刚在 Hacker News 上发布,已可以通过 pip 直接安装。

独立开发者发布了一款名为 Homebench 的开源本地大模型基准测试工具,它的特别之处不是“跑分”,而是从速度、内存、质量三个维度诚实讨论当前本地 LLM 评测的常见误区。目前公开信息显示,该项目刚在 Hacker News 上发布,已可以通过 pip 直接安装。

Anthropic 与成立仅数月的云初创公司 Volta 签订了一份为期六年、价值 100 亿美元的算力采购协议,用于锁定英伟达最新 Vera Rubin 芯片的算力供应。这笔交易反映了 AI 大模型军备竞赛中,头部玩家正在用长期合同换取稀缺算力资源。

Cloudflare 把智能体(agent)当作一种新形态的应用来运维,推出了统一的 Agents 管理平台,首发功能是“智能体追踪”(agent tracing),让开发者能看到 agent 每一次模型调用、工具执行和 token 花费,而不再只是看到一个 HTTP 200 的空壳响应。

Anthropic 与成立仅数月的云初创公司 Volta 签署了约 100 亿美元、为期多年的算力协议。过去这种量级的合同只会流向亚马逊、微软或谷歌,如今一家不拥有硬件的数据中心“中间商”拿到了订单,说明 AI 算力供给格局正在发生结构性变化。

开发者 ryanzhou 发布了一套完整配置,让 DeepSeek V4 Flash(304B 参数)能在单颗 AMD MI300X 上生产级运行,无需量化即可将全部权重装入 192GB HBM,单流解码达 168.6 tok/s。这件事值得关注,因为它验证了 AMD 大显存卡在高端推理场景中可作为 NVID…

Cloudflare 在本地开发工具中内置了 OpenTelemetry 追踪能力,让 AI 编程 agent 无需任何配置即可自动查询 Worker 的运行轨迹和日志,从而快速定位并修复故障。

Cloudflare 发布了一套名为 Agent Development Lifecycle(ADLC)的工具集,让 AI 智能体不再只写代码,而是接管 CI/CD、可观测性、问题处理等更多软件工程环节,并明确提出用 ADLC 取代传统 SDLC。

Cloudflare 在 Astro 开源仓库部署了一条全自动的 AI 故障分诊流水线——复现、诊断、修复、发预览版全部由隔离运行的子代理完成,将存量 issue 从 200 多个压到约 30 个,并预计下月归零。这套底层引擎已被封装为开源框架 Flue,供其他项目复刻。

NVIDIA在FMS大会上宣布开源cuFile API,让GPU能够直接读写存储设备、绕过CPU中转,同时联合40多家存储厂商推进Storage-Next计划,为AI时代重新定义存储架构。

NVIDIA 将自动驾驶推理模型 Alpamayo 2 Super 以商用许可开源发布,允许企业直接用于 Robotaxi 和量产自动驾驶系统开发,解决了此前前沿推理模型“只能研究、难以上车”的落地瓶颈。