标签： LLM

用户在 Windows 系统（NVIDIA GPU + AMD CPU）上使用 Ollama 0.30.7 运行 Phi4 模型时触发。复现方式包括命令行运行 ollama run phi4 以及调用 /api/chat 端点。

白宫提词器助理加布里埃尔·佩雷斯被指利用职务之便，在预测市场Kalshi上下注特朗普演讲中会出现的单词和短语，获利约10万美元，交易有时甚至发生在演讲进行中。事件暴露了预测市场在政府信息透明度与内幕交易监管上的巨大漏洞。

用户运行 llama-server 作为后端服务（服务 OpenCode 等前端），使用 --cache-ram （如 16384 或 65536 MB）及 --kv-unified 、 --parallel 、 --cache-reuse 等配置。当出现多 agent / sub-agent 并发

用户运行 llama-server ，为带有 DSpark draft 头的 Bonsai-27B 模型（ --spec-type draft-dspark ）进行投机解码，并将主模型上下文设置为 32768（ -c 32768 ），同时将 draft 模型完全卸载到 GPU（ -ngld 99 ）

用户在使用 vLLM 部署 Qwen3-VL-235B 模型，处理多图片、长序列、多轮对话输入时触发 OOM。环境为 8×H100 80GB，运行 Ubuntu 24.04，PyTorch 2.10.0+cu129，CUDA 12.9。

vLLM CI 构建（Build #78354，对应 PR #48150）中，多个无关测试套件同时出现失败，包括 basic-correctness 、 language-models-tests-standard 、 entrypoints-integration-api-server-gener