保护我们的自由及开源软件（FLOSS）公共资源免受大型语言模型（LLMs）的侵害
开源代码托管平台 Codeberg e. V. 的成员投票通过了两项与 AI 相关的动议：一是承诺不会将用户数据用于训练 LLM，二是修改服务条款以禁止“氛围编码”（vibe-coded）项目。此举反映了 LLM 技术正对开源基础设施和社区生态造成实质性压力。
标签： LLM
Misc. bug: `reasoningEffort` not pre-settable in the json web ui options
用户在使用 llama.cpp 的 llama-server 模块启动 WebUI 时，希望通过 json 配置文件（如 `config.json`）预设默认的推理深度选项（例如 "low"、"medium"、"high"），但发现 json 选项中仅有 `enableThinking`（布尔值，控
Misc. bug: UI Feedback: Reasoning button visibility & disconnected Developer Settings
用户在 Windows 上运行 llama-server.exe （来自 ggml-org/llama.cpp 工具），通过命令行指定了 --reasoning on --reasoning-budget 8192 启动参数，用于支持 Gemma 4 等需要推理层级触发的模型。打开 WebUI 后发
小红书HELMSMAN：全闪存服务器实现高性能向量检索，硬件成本节省超90%
小红书在OSDI 2026上发表了HELMSMAN系统，用约40台全闪存服务器取代了此前约35000 CPU核心和350TB DRAM的配置，在满足毫秒级延迟的前提下，将向量检索的硬件成本削减了超过90%，同时吞吐能力相比传统方案提升了2-16倍。这一技术路线可能改变大规模在线搜索、推荐系统对昂贵内存的依赖。
RuntimeError: Already borrowed
该报错出现在 vLLM 服务化部署 Qwen3.5-122B-A10B-FP8 等大型 MoE 模型时，当大量并发请求（尤其是包含 image_url 内容的多模态请求）通过 /v1/chat/completions 接口发送，导致 EngineCore 进程崩溃。同一并发量下纯文本请求可以稳定运行
RuntimeError: This GEMM is not supported!` during CUDA graph capture. This does not occur with the older AITER version (v0.10.post2).
在 vLLM 主分支（commit 55d037e2e5cc56c38a1a4a77a15c347fee380c50 ）环境下，使用 ROCm 平台（GPU: gfx942/MI300X）部署 DeepSeek-R1 模型，设置环境变量 VLLM_ROCM_USE_AITER=1 和 VLLM_US
feat: first-class support for BaseRT as a local inference provider
用户在 Open WebUI 中连接本地运行的 BaseRT 推理服务时，遇到以下问题：
gemma4:31b-coding-mtp-bf16 getting error “requires macOS” on Linux NVIDIA GDX Spark
用户在 Linux (NVIDIA GDX Spark) 系统上，使用 Ollama 0.23.1 执行 ollama pull gemma4:31b-coding-mtp-bf16 时，拉取失败并返回错误。
GLM 4.7 Flash Crippled Today (6/3/2026)
用户在 Ollama 0.30.4 中运行 glm-4.7-flash 模型（Windows/AMD、Linux/Docker/AMD 双环境均复现），用于本地 agent 任务（Hermes agent、OpenCode 开发），出现离谱幻觉与工具调用损坏。同一模型在 0.24.0 下正常。
优质非虚构书籍是AI垃圾内容的对立面
在AI生成文本泛滥的当下，HackerNews上的讨论指出，优质非虚构书籍与AI垃圾内容构成了一种对立关系。这不仅关乎内容质量的层次差异，更揭示了一个正在浮现的趋势：当大量AI生成内容使得“AI味”写作变得廉价且千篇一律时，优秀的人工编辑和写作者的价值反而前所未有地凸显。同时，讨论也承认AI作为信息筛选和知识…