标签: LLM

从搭建Shippy中学到的构建Agent经验

从搭建Shippy中学到的构建Agent经验

AI2团队基于海洋监测AI Agent“Shippy”的实战经验,总结出一套将架构拆分为“灵魂、技能、配置”三层、并用确定性CLI工具约束非确定性模型行为的设计范式。这套经验直接来自高风险的海洋保护场景,对任何需要可靠输出的AI Agent开发都有参考价值。

Misc. bug: WebUI MCP panel breakage

Misc. bug: WebUI MCP panel breakage

用户在 Linux aarch64 系统上运行 llama-server,使用 --ui-mcp-proxy 参数启动 WebUI 并连接 MCP 服务器,同时开启了 draft 模型、多模态、Jinja 模板等高级功能。在 WebUI 的 MCP 设置页面中操作时,遇到了三个独立但相关的错误。

Assertion ‘__n size()’ failed.

Assertion '__n size()' failed.

用户在 AMD RYZEN AI MAX+ PRO 395 平台(Linux)上运行 llama-server ,配置了推测解码(speculative decoding)参数(如 --spec-draft-n-max 、 --spec-type ngram-map-k ),并加载了 Qwen3.6

Spotify 扩展其 AI 布局,推出类似 ChatGPT 的音乐助手

Spotify 扩展其 AI 布局,推出类似 ChatGPT 的音乐助手

Spotify 向 Premium 用户推出了一款全新的对话式 AI 助手,支持用户通过文字或语音与 App 进行多轮交互,以推荐音乐、播客和有声书。这是 Spotify 在 AI DJ 之后,将大语言模型(LLM)技术整合进其核心音乐服务的最新尝试,意在用对话式体验重新定义音频搜索与发现。