标签: LLM

Misc. bug: Memory leak in the Vulkan engine

Misc. bug: Memory leak in the Vulkan engine

该报错是 llama.cpp 的 Vulkan 推理引擎在处理大量图像输入时出现内存泄漏,每次 Chat Completion 请求会额外增加约 300MB 显存/内存占用,直到系统内存耗尽被 Ubuntu OOM 杀掉。优先排查是否使用了 Vulkan 后端,以及是否调用的是 OpenAI 兼容接

Caterpillar 将自动化采矿的经验引入 AI 部署

Caterpillar 将自动化采矿的经验引入 AI 部署

工业机械巨头卡特彼勒(Caterpillar)正将其在自动化采矿领域积累的经验,复制到更广泛的企业级 AI 部署中,并计划投入 1 亿美元对全球 11.8 万名员工进行 AI 与自动化技能培训。这家公司正在示范传统重工业如何将 AI 从概念验证推向实际生产环境。

LLM 让我失去精明劲

LLM 让我失去精明劲

一位资深工程师在 Hacker News 发文,描述自己因重度使用 LLM 编程而失去“动手实践”的乐趣与精明劲(savvy),指出无脑依赖 AI 生成代码正在侵蚀学习过程和长期技术判断力,而非单纯提高效率。