标签： LLM

AI 资讯

用 Claude 重写 SQL 解析器，性能暴涨 70 倍：程序员做的不是写代码，而是搭建验证闭环

PostHog 工程师借助 Claude Code 将 SQL 解析器从 ANTLR 生成的 C++ 代码重写为 Rust 手写代码，解析速度在生产环境平均提升 454 倍（笔记本基准测试中为 70 倍）。整个过程由 AI 生成代码，但核心工作量变成了搭建“基于属性的测试”与“影子模式验证”的闭环，而非逐行手…

celebrityanime
2026年 7月 14日

AI 资讯

连Claude Code都搞不定的巨型代码库，我们靠一个“自愈循环”给盘活了

ServiceTitan 首席 AI 工程师 David Stein 在 QCon 分享了一套“自愈循环”方法论：通过将遗留代码迁移任务分解到 AI 可独立完成并验证的极细粒度，再利用自动化“组装线”并行执行，实现 85% 的迁移工作由 AI 自主完成，项目周期从数个季度压缩到数周。这揭示了一个反常识的核心原…

celebrityanime
2026年 7月 14日

AI 资讯

[Question]: Novice, seek help from the boss – prompt for gateway timeout issue

用户在本地开发环境中通过源码启动 RAGFlow（ launch from source code ），访问 Web 界面或发送 API 请求时，浏览器/代理显示网关超时错误。

celebrityanime
2026年 7月 14日

AI 资讯

[Bug]: vLLM Batch/Files API returns 404 – LiteLLM attempts to call non-existent upstream /v1/files endpoint

用户在 LiteLLM Proxy (v1.80.8 及更高版本) 中尝试使用 vLLM 的 "Batch and Files API" 功能。用户通过 POST /v1/files 请求向 LiteLLM Proxy 提交 batch 文件时，请求失败并返回 404 错误。用户使用的上游模型为 m

celebrityanime
2026年 7月 14日

AI 资讯

Misc. bug: llama.cpp web UI makes requests to third-party services before a user has opted into them

用户在运行 llama-server （版本 b9867 或包含合并提交 94875285e47516da4e1c71e7bca5ba65b82bbe59 的 master 分支）时，通过浏览器访问 Web UI（通常为 localhost）。打开浏览器开发者工具的 Network 面板，可以看到在

celebrityanime
2026年 7月 14日

AI 资讯

Misc. bug:

用户在使用 llama-server 启动模型服务后，通过浏览器访问内置的 WebUI（PWA）界面时，界面完全损坏（fully broken），无法正常显示和操作。该问题在浏览器端复现（Firefox 和 Chromium 均受影响），且与 llama-server 版本有关。

celebrityanime
2026年 7月 14日

AI 资讯

ValueError: … Reason: [‘kv_cache_dtype not supported’]`) — likely because the Qwen3-Next hybrid Mamba/attention architecture isn’t wired up for NVFP4 KV cache yet, separate from the SM 12.1

用户在 NVIDIA GB10/DGX Spark (SM 12.1) 平台上运行 vLLM，加载 Qwen3-Next 混合 Mamba/Attention MoE 架构模型（如 `nvidia/Qwen3.6-35B-A3B-NVFP4`），配置了 `--kv-cache-dtype fp8`（

celebrityanime
2026年 7月 14日

AI 资讯

[Bug]: upgrade from 0.24.0 to 0.25.0

用户在 Windows 11 + Docker Desktop 4.69 + NVIDIA 5090D 环境下，将 RAGFlow 从 0.24.0 升级到 0.25.0 后，所有通过 LM Studio 连接的大语言模型（如 qwen3.5-9b）均无法调用，重新添加也无效。日志中反复出现 Ten

celebrityanime
2026年 7月 13日

AI 资讯

UniRL：统一多模态 RL 框架的 2.4X 端到端性能优化实践｜AICon深圳

腾讯在2026年AICon深圳站上披露了其统一多模态强化学习框架UniRL，该框架通过架构解耦、自研算子FalconGEMM和训推一致性方案，解决了Diffusion RL与LLM RL在基础设施层面的本质差异，实现了端到端2.4X的性能提升，并将在8月21-22日的大会上详解全链路工程实践。

celebrityanime
2026年 7月 13日

AI 资讯

Checkpoint erasure during normal conversation flow due to is_last_user_message bypass of checkpoint_min_step

用户在 llama.cpp 的 llama-server 中启用上下文 checkpoint 功能，运行长时间 Agent 工作流（连续多轮对话，上下文长度约 138K token）。关键参数： llama-server --ctx-checkpoints 8 --checkpoint-min-st

celebrityanime
2026年 7月 13日