标签: LLM

Ollama not running with ROCm backend?

Ollama not running with ROCm backend?

用户在一台仅配备 AMD iGPU(Radeon 890M,RDNA 3.5 架构)的 Linux 设备上运行 Ollama(版本 0.5.11),并与 llama.cpp 的 CPU、ROCm 后端进行性能对比。测试发现 Ollama 推理速度显著慢于 llama.cpp 的 ROCm 后端,甚至

LLM与 MikroTik 的网络

LLM与 MikroTik 的网络

HackerNews 上讨论指出,LLM 用于配置 MikroTik 的 RouterOS 时,由于系统本身的“高瘦”配置语言特性,AI 幻觉主要限于语法错误,而非概念性误解。同时,思科旗下 Meraki 已推出 AI 助手功能,网络设备配置正成为 LLM 落地的真实应用场景。

LLM与 MikroTik 的网络

LLM与 MikroTik 的网络

开发者 Greg 分享了过去几个月使用 LLM(如 Claude)配置 MikroTik 网络设备的真实经验,证明 LLM 在复杂网络配置场景中能显著提升效率,但也指出需要保持谨慎和验证。这一实践揭示了 LLM 正在从编码扩展至网络运维领域,对网络工程师、设备商和 AI 应用开发者均具参考价值。

DSL 使 LLM 能够可靠地投入使用

DSL 使 LLM 能够可靠地投入使用

Thoughtworks 杰出工程师 Unmesh Joshi 在 Martin Fowler 博客发文论证,领域特定语言(DSL)可以约束 LLM 的输出范围,弥补大模型在“前期规格说明”与“通过实现发现设计”两大核心局限,从而让 LLM 从不可控的代码生成器变为可靠的设计与实现工具。该文提出 DSL 应成…

从搭建Shippy中学到的构建Agent经验

从搭建Shippy中学到的构建Agent经验

AI2团队基于海洋监测AI Agent“Shippy”的实战经验,总结出一套将架构拆分为“灵魂、技能、配置”三层、并用确定性CLI工具约束非确定性模型行为的设计范式。这套经验直接来自高风险的海洋保护场景,对任何需要可靠输出的AI Agent开发都有参考价值。