标签: LLM

Ollama not running with ROCm backend?

Ollama not running with ROCm backend?

用户在一台仅配备 AMD iGPU(Radeon 890M,RDNA 3.5 架构)的 Linux 设备上运行 Ollama(版本 0.5.11),并与 llama.cpp 的 CPU、ROCm 后端进行性能对比。测试发现 Ollama 推理速度显著慢于 llama.cpp 的 ROCm 后端,甚至

LLM与 MikroTik 的网络

LLM与 MikroTik 的网络

HackerNews 上讨论指出,LLM 用于配置 MikroTik 的 RouterOS 时,由于系统本身的“高瘦”配置语言特性,AI 幻觉主要限于语法错误,而非概念性误解。同时,思科旗下 Meraki 已推出 AI 助手功能,网络设备配置正成为 LLM 落地的真实应用场景。

LLM与 MikroTik 的网络

LLM与 MikroTik 的网络

开发者 Greg 分享了过去几个月使用 LLM(如 Claude)配置 MikroTik 网络设备的真实经验,证明 LLM 在复杂网络配置场景中能显著提升效率,但也指出需要保持谨慎和验证。这一实践揭示了 LLM 正在从编码扩展至网络运维领域,对网络工程师、设备商和 AI 应用开发者均具参考价值。

DSL 使 LLM 能够可靠地投入使用

DSL 使 LLM 能够可靠地投入使用

Thoughtworks 杰出工程师 Unmesh Joshi 在 Martin Fowler 博客发文论证,领域特定语言(DSL)可以约束 LLM 的输出范围,弥补大模型在“前期规格说明”与“通过实现发现设计”两大核心局限,从而让 LLM 从不可控的代码生成器变为可靠的设计与实现工具。该文提出 DSL 应成…