The Verge 编辑亲测本地 AI:Hermes 加 Qwen 125B,隐私换自由但依旧劝退

The Verge 编辑 Antonio G. Di Benedetto 在 M5 Ultra Mac Studio 上安装开源 Hermes Agent 与 Qwen 3.8 Flash Next 125B 模型,用本地 AI 整理邮件、日历和 Steam 游戏库,并记录了这段激动、过载又沮丧的体验。它说明…

一句话看懂:The Verge 编辑 Antonio G. Di Benedetto 在 M5 Ultra Mac Studio 上安装开源 Hermes Agent 与 Qwen 3.8 Flash Next 125B 模型,用本地 AI 整理邮件、日历和 Steam 游戏库,并记录了这段激动、过载又沮丧的体验。它说明本地大模型正从极客玩具走向可用,但门槛仍高。

事件核心:发生了什么

2026 年 10 月 11 日,The Verge 发布编辑 Antonio G. Di Benedetto 的本地 AI 测试日记。作者长期不愿把个人数据交给云服务,于是转向本地运行。他在 256GB 统一内存的 M5 Ultra Mac Studio 上安装开源 Hermes Agent——一款支持 macOS、Windows、Linux 的自托管 AI 代理桌面应用,坚持本地模型时完全免费。首测选择 Qwen 3.8 Flash Next,参数规模 1250 亿,体积约 105GB。他通过 Hermes 的引导界面选定模型,还借 Telegram 机器人用手机远程控制。

早期任务包括:让代理每天早上 7:30 生成邮件、日历和天气简报,最初因 Mac 休眠而失败,调整后运行稳定;再让它识别已安装的 Steam 客户端并整理 400 多款游戏分类,这类手工繁琐的工作确实能交给本地代理。作者也明确,不会让它替自己写作、编辑或生成丑传单。他后续还计划在 M6 Mac Mini、M5 MacBook Air、配 AMD Strix Halo 的华硕 TUF Gaming A14 以及 RTX Spark 设备上测试更小的 Qwen 模型。

为什么重要

这篇体验的价值不在模型跑分,而在揭示本地 AI 的真实处境:性能上,消费级硬件已能跑千亿参数模型;体验上,安装、选型、调试、任务设计仍然费时费力。苹果把新 Mac 桌面卖点押注在本地 AI,Windows 阵营也准备推出最高 128GB 内存、面向代理式 AI 的 RTX Spark 新机,说明算力正被包装成隐私和自主性的卖点。相比订阅云端聊天机器人,本地代理的吸引力在于数据不出本机,不必向 OpenAI、Google、Microsoft 或 Anthropic 交出控制权。但文章没有把话说满:能跑起来,不等于好用。

对用户/开发者/创作者的影响

对普通用户,本地 AI 目前仍需要愿意折腾的耐心,内存与显存是硬门槛,适合把邮件摘要、文件整理等低风险例行任务交出去。对开发者,Hermes 这类开源代理应用与 Qwen 等开放权重模型组合,提供了无需按 token 计费的自托管路径,但模型选择、硬件兼容、休眠与定时任务等工程细节会直接决定可用性。对创作者,作者的态度很保守:他愿意让本地 AI 干杂活,但不打算让它代笔。隐私优势是真实的,生产力收益则取决于能否把模糊的文本框变成具体工作流。目前看,卖点仍是隐私,而非省心。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

可继续观察三点:一是作者在 RTX Spark 和苹果不同芯片上的后续测试,是否能跑通更小模型并给出可比体验;二是 Hermes 这类自托管代理能否补齐任务可靠性、记忆和权限管理,而不只是演示;三是本地 AI 硬件价格和内存配置是否下探,让普通用户不必为 256GB 统一内存或 128GB 系统内存买单。

来源:The Verge

celebrityanime
celebrityanime
文章: 28761

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注