分类: AI 资讯

Ollama is not using my GPU (Windows)

Ollama is not using my GPU (Windows)

用户在 Windows 终端运行 ollama run mistral:7b --verbose 时,首次请求 GPU 使用率短暂上升(25%)但后续请求 GPU 使用率降至 0-1%,模型响应极慢。其他模型(如 tinyllama)可正常使用 GPU。该问题在 Ollama v0.1.29 及后续

Ollama not running with ROCm backend?

Ollama not running with ROCm backend?

用户在一台仅配备 AMD iGPU(Radeon 890M,RDNA 3.5 架构)的 Linux 设备上运行 Ollama(版本 0.5.11),并与 llama.cpp 的 CPU、ROCm 后端进行性能对比。测试发现 Ollama 推理速度显著慢于 llama.cpp 的 ROCm 后端,甚至

The OpenAI Bubble

The OpenAI Bubble

一篇深度分析指出,当前 AI 热潮本质上是围绕 OpenAI 的“泡沫”,而该公司的潜在崩塌可能成为行业“雷曼时刻”。文章披露 OpenAI 计划到 2030 年烧掉超过 8520 亿美元,今年的算力支出预计占全球 AI 算力总支出的 50% 以上。

Grok Build 现已开源

Grok Build 现已开源

由马一龙旗下公司 SpaceXAI 推出的 AI 编程代理及命令行工具 Grok Build 已正式开源,开发者可通过 GitHub 仓库直接获取源码并使用单一命令在终端中运行。这一动作标志着 AI 编程工具领域再添一名开源选手,有望降低开发者接入 AI 辅助编程的门槛。