标签： LLM

一篇引发广泛讨论的文章指出，当人们经过与 LLM 数小时互动仍得不到满意答案、转而向有经验的同事请教时，得到的回复却是“去问 Claude”——这不仅未能解决问题，反而剥夺了提问者最需要的、来自个人长期实践的真实经验与判断力。

BoundFlow 是一个开源的控制平面，为无人值守运行的 AI 代理和自动化工作流提供成本上限、人工审批门、自动熔断与回滚等治理能力。它不是又一个 Agent 开发框架，而是补上了“代理无人在线时如何管得住”这一关键缺失层。

一个名为 picchio 的开源诊断工具，通过跑三个回合的推理并解析引擎日志，能够精准识别本地大模型是否真的在使用 GPU 推理，还是无声无息地退回到了 CPU 运行。它在 Apple M5 实测中发现，GPU 加速对解码阶段（写出答案的速度）仅有约 2 倍提升，但对预填充阶段（读提示的速度）提升高达 22…

一位开发者在六项对照实验中系统性地指出，用大模型（LLM）判断另一个大模型的输出质量，存在致命缺陷。他提出的替代方案不是找一个更聪明的AI法官，而是在控制层根本没有法官——采用确定性代码驱动的路由与统计采样。