Ollama is not using my GPU (Windows)

用户在 Windows 终端运行 ollama run mistral:7b --verbose 时,首次请求 GPU 使用率短暂上升(25%)但后续请求 GPU 使用率降至 0-1%,模型响应极慢。其他模型(如 tinyllama)可正常使用 GPU。该问题在 Ollama v0.1.29 及后续

用户在 Windows 终端运行 ollama run mistral:7b --verbose 时,首次请求 GPU 使用率短暂上升(25%)但后续请求 GPU 使用率降至 0-1%,模型响应极慢。其他模型(如 tinyllama)可正常使用 GPU。该问题在 Ollama v0.1.29 及后续

用户在一台仅配备 AMD iGPU(Radeon 890M,RDNA 3.5 架构)的 Linux 设备上运行 Ollama(版本 0.5.11),并与 llama.cpp 的 CPU、ROCm 后端进行性能对比。测试发现 Ollama 推理速度显著慢于 llama.cpp 的 ROCm 后端,甚至

一篇深度分析指出,当前 AI 热潮本质上是围绕 OpenAI 的“泡沫”,而该公司的潜在崩塌可能成为行业“雷曼时刻”。文章披露 OpenAI 计划到 2030 年烧掉超过 8520 亿美元,今年的算力支出预计占全球 AI 算力总支出的 50% 以上。

OpenAI 在 ChatGPT 搜索结果中首次引入受监管预测市场 Kalshi 的世界杯实时赔率,但用户不能直接下注,这一合作标志着 AI 聊天机器人与博彩信息流的边界被打开。

OpenAI研究员Miles Wang正计划离职创办一家AI药物初创公司,尽管公司尚无名称、产品和确认的资金,但传闻其估值已飙升至20亿美元。这反映出AI制药赛道正经历一场资本狂热,但药物研发中最困难的临床试验环节仍未被AI攻克。

丰田旗下孵化公司 Walden Robotics 获得 3 亿美元种子轮融资(估值 11 亿美元),从隐身模式正式启动。它的独特之处在于,工厂人形机器人刻意放弃了双足行走,改用轮式底盘,更早进入产线实际工作。

Boston Dynamics正在测试用四足机器人Spot完成从货车到客户门口的最后一小段包裹递送,试图自动化物流配送中最难解决的“门廊缺口”。这标志着机器人腿式移动能力首次被引入常规物流末端场景,Spot的商用边界从巡检拓展到了消费级配送。

OpenAI 推出了首款消费级硬件产品——一款售价 230 美元、主打开发者场景的紧凑型机械键盘 Codex Micro,而非市场期待的与 Jony Ive 合作的 AI 无屏陪伴设备。这款硬件是与外设厂商 Work Louder 联名,基于 OpenAI 代码助手 Codex 打造,预计 7 月 24 日发…

由马一龙旗下公司 SpaceXAI 推出的 AI 编程代理及命令行工具 Grok Build 已正式开源,开发者可通过 GitHub 仓库直接获取源码并使用单一命令在终端中运行。这一动作标志着 AI 编程工具领域再添一名开源选手,有望降低开发者接入 AI 辅助编程的门槛。

一名黑客入侵了AI音乐生成公司Suno,泄露了其源代码和训练库细节,证实Suno曾从YouTube Music、Deezer、Genius等多个平台抓取数百万首歌曲和歌词,用于训练其AI模型,这直接回应了唱片业此前对其侵犯版权的指控。