issue: streaming transmission cannot be stopped when using redis
用户在 Docker 环境下运行 Open WebUI 0.10.2 版本，后端模型通过 Ollama 服务（或其他 LLM 后端）提供流式推理能力。用户在前端发起对话请求，模型开始流式输出 token，用户点击“停止”按钮期望中断生成，但实际流式传输无法停止，生成持续到模型主动完成。该问题仅在系统
分类： AI 资讯
LlamaTokenizer in v5 overrides tokenizer.json’s ByteLevel pre-tokenizer with Metaspace, silently breaks DeepSeek V3/R1 family
使用 transformers v5 的 AutoTokenizer.from_pretrained() 加载任何 tokenizer_config.json 中设置了 "tokenizer_class": "LlamaTokenizerFast" 或 "LlamaTokenizer" 的模型。已确
MLX runner: KV cache not released between requests causes memory accumulation and severe tgTPS collapse (v0.30.8)
用户在 Apple M4 Max（64 GB 统一内存）macOS 系统上，使用 Ollama v0.30.8 运行 MLX 模型 qwen3.6:35b-mlx （上下文窗口 262144）。通过 bench.py 脚本按递增 prompt 长度（1024, 4096, 8192, 16384,
Ollama is not using my GPU (Windows)
用户在 Windows 终端运行 ollama run mistral:7b --verbose 时，首次请求 GPU 使用率短暂上升（25%）但后续请求 GPU 使用率降至 0-1%，模型响应极慢。其他模型（如 tinyllama）可正常使用 GPU。该问题在 Ollama v0.1.29 及后续
Ollama not running with ROCm backend?
用户在一台仅配备 AMD iGPU（Radeon 890M，RDNA 3.5 架构）的 Linux 设备上运行 Ollama（版本 0.5.11），并与 llama.cpp 的 CPU、ROCm 后端进行性能对比。测试发现 Ollama 推理速度显著慢于 llama.cpp 的 ROCm 后端，甚至
The OpenAI Bubble
一篇深度分析指出，当前 AI 热潮本质上是围绕 OpenAI 的“泡沫”，而该公司的潜在崩塌可能成为行业“雷曼时刻”。文章披露 OpenAI 计划到 2030 年烧掉超过 8520 亿美元，今年的算力支出预计占全球 AI 算力总支出的 50% 以上。
OpenAI在ChatGPT内展示Kalshi的世界杯赔率，这是其首个预测市场交易
OpenAI 在 ChatGPT 搜索结果中首次引入受监管预测市场 Kalshi 的世界杯实时赔率，但用户不能直接下注，这一合作标志着 AI 聊天机器人与博彩信息流的边界被打开。
一位OpenAI研究员将离职，创办一家估值20亿美元的无名AI药物初创公司
OpenAI研究员Miles Wang正计划离职创办一家AI药物初创公司，尽管公司尚无名称、产品和确认的资金，但传闻其估值已飙升至20亿美元。这反映出AI制药赛道正经历一场资本狂热，但药物研发中最困难的临床试验环节仍未被AI攻克。
Walden Robotics获3亿美元融资启动，其工厂人形机器人没有双腿
丰田旗下孵化公司 Walden Robotics 获得 3 亿美元种子轮融资（估值 11 亿美元），从隐身模式正式启动。它的独特之处在于，工厂人形机器人刻意放弃了双足行走，改用轮式底盘，更早进入产线实际工作。
Boston Dynamics正在测试让Spot作为包裹递送机器人，从货车步行到门口
Boston Dynamics正在测试用四足机器人Spot完成从货车到客户门口的最后一小段包裹递送，试图自动化物流配送中最难解决的“门廊缺口”。这标志着机器人腿式移动能力首次被引入常规物流末端场景，Spot的商用边界从巡检拓展到了消费级配送。