generate completion API hangs with certain models but not with others

该报错通常出现在 macOS(Apple Silicon)上用 Ollama 加载某些特定模型(如 qwen3.5:2b、gemma4:12b-it-qat)时, /api/generate 或 /api/chat 请求挂起、GPU 占用 100% 且迟迟不返回,而其他模型(如 llama3.2:3

该报错通常出现在 macOS(Apple Silicon)上用 Ollama 加载某些特定模型(如 qwen3.5:2b、gemma4:12b-it-qat)时, /api/generate 或 /api/chat 请求挂起、GPU 占用 100% 且迟迟不返回,而其他模型(如 llama3.2:3

a16z 数据显示 98% 的美国家庭仍未为 AI 付费,而 Box CEO Aaron Levie 认为,这个数字更多反映的是消费级 AI 的商业模式,而非 AI 技术本身的状态——消费者端的 AI 大概率会走补贴路线,靠电商、广告或硬件和服务销售变现。

风险投资人 Matt Turck 在 X 上提醒,AI 圈外最容易被忽视的一点是:模型不是"造"出来的,而是"长"出来的,人们并不真正理解它们内部如何运作。他把可解释性称为当务之急,并引用了 Goodfire AI CEO Eric Ho 关于 reward hacking 的对话。

OpenAI 的 Thibault Sottiaux 宣布,接下来 28 天将进入“每日交付”节奏,每天为 Codex 及工作场景用户上线一项明确改进,或者进行一次完整重置。这是少见的公开承诺式迭代,表明团队正在优先解决用户对复杂度的反馈。

Vercel CEO Guillermo Rauch 透露,他的新项目把文档拆成两套:写给人的 README 坚持手写,给 AI 代理读的内部文档则用"AI 英语"生成。他提出的判断是,面向人的表达仍是内容质量的关键分界线。

Dan Shipper 透露,过去几周他已把名为 dot 的产品当作访问 AI 的主要入口,并给自己的 dot 取名 boo;他判断这种“常驻在线的持久型 agent”交互方式会在一年后延续,但 boo 这个具体形态会被更强的工具替换掉。

Box CEO Aaron Levie 指出,AI 正在企业侧创造出 AI 工程师、FDE(现场部署工程师)和 AI 部署服务商等新岗位,同时大量传统岗位正被重新定位到 AI 相关工作中,而现有就业统计并未完整反映这一转型。

AI 笔记应用 Granola 的联合创始人 Sam 承认,越来越多企业用户绕过它的界面,直接通过 MCP 调用其能力完成任务。作为 UI 设计师他感到失落,但最终选择接受这种使用方式。

安全研究初创公司 Cantina 发布的开源模型 apex-flash-1,在 60 个留出(held-out)漏洞任务中解决了 40 个,约三分之二的通过率。这意味着开源模型在安全研究这类高门槛场景中,开始具备可用的实战能力,而不只是演示价值。

OpenAI 内部已明确把「简化 ChatGPT」列为当前优先事项,暂停铺新摊子,转而清理产品线中的重叠品牌与入口。这值得关注,因为过去两年 ChatGPT 从单一聊天框膨胀成一堆并行功能,用户和开发者的选择成本已经明显上升。