标签: LLM

一百万个 Agent,是个分布式系统问题

一百万个 Agent,是个分布式系统问题

AI Agent 规模化后暴露的不是模型能力问题,而是调度、上下文管理和错误传播这类分布式系统难题。Google Research 的 180 组配置实验显示,多 Agent 在并行任务上最高提效 80.9%,在顺序推理任务上反而拖累 39% 到 70%。

你的端点管理器下一个要管理的对象:AI agent

你的端点管理器下一个要管理的对象:AI agent

Gartner 预计年内任务型 AI agent 将进入 40% 的企业应用,但企业的端点清单工具还停留在"装了哪些软件"的层面,管不住这些会自己读文件、调 API、执行多步操作的"新住户"。Automox、BeyondTrust、IBM 等机构的数据指向同一个缺口:agent 默认无治理。

当聊天是错误的 UI 时

当聊天是错误的 UI 时

GitHub 开发者 Burke Holland 在 GitHub 官方博客发文提出,聊天窗口并非与 AI 协作的最优界面,多数场景下用户需要的是可为具体任务即时生成的自定义界面。GitHub Copilot 应用中把这种界面称为 canvas,它是一个可双向调用本地代码和第三方 API 的全栈小应用。

Error Missing libomp.so ( Strix Halo )

Error Missing libomp.so ( Strix Halo )

这个报错通常出现在 TextGen WebUI 加载 GGUF 模型时,llama.cpp 的 llama-server 二进制组件找不到 libomp.so 动态库。优先排查 TextGen WebUI 打包自带的 llama.cpp 二进制版本与当前系统的 libomp 依赖是否匹配。