ELR 让循环语言模型摆脱”单圈税”,Koi-4B 一个权重适配不同算力

Hugging Face 论文提出 Elastic Latent Recurrence(ELR)训练方法,让循环语言模型在只跑一圈时不再明显弱于同规模非循环模型,多跑几圈则继续提升精度。基于该方案训练的 Koi-4B 单个 checkpoint 可在推理时切换圈数,匹配 Qwen3.5-4B 的水平并向上扩展…

Hugging Face 论文提出 Elastic Latent Recurrence(ELR)训练方法,让循环语言模型在只跑一圈时不再明显弱于同规模非循环模型,多跑几圈则继续提升精度。基于该方案训练的 Koi-4B 单个 checkpoint 可在推理时切换圈数,匹配 Qwen3.5-4B 的水平并向上扩展…

alphaXiv 上一篇数学论文提出用条件期望是否可交换来度量“局部信息无法拼成整体”的失败,并用一个三枚二元 token 的玩具模型把这种失败量化为 1−3ε,窗口一致率低于 1/3 时不存在共同联合分布。

一项新研究提出不确定性引导的渐进收缩框架,用不到全量数据训练 0.22% 的优化预算,即可维持甚至提升大模型推理表现,为降低推理后训练成本提供了新思路。

研究者提出“结构化消歧”新范式并发布 ARCS 基准,用来衡量真实数据库中自然语言提问歧义对 text-to-SQL 的影响;在摘要披露的评测中,gpt-6-sol 端到端执行准确率仅 51%,开源模型均未超过 27%。

在 Vulkan 后端、RDNA3 显卡(Radeon 7900 XTX)上使用 llama.cpp 处理长提示词(约 5 万 token 级别)时,从 b10780 之后的版本开始出现严重的 prompt processing 速度下降;首要排查点是 b10781 起引入的 scratch buf
![[Bug]: A multimodal item can still be split across prefill chunks with disable_chunked_mm_input=True](https://www.chat-gpts.plus/wp-content/uploads/2026/10/52306-3338f536-768x403.jpg)
该问题出现在 vLLM 调度器启用 disable_chunked_mm_input=True (即禁止多模态输入分块)时,单个多模态 item 仍可能被拆到多个 prefill chunk 中执行;优先排查 self.scheduler_config.disable_chunked_mm_inpu

当 MoE 模型同时启用 LoRA( enable_lora )并把 max_lora_rank 设成大于 128(例如 320)时,vLLM 引擎启动阶段会命中 fused_moe_lora_one_shot supports max_lora_rank<=128 断言并崩溃;优先确认版本是否已包

这个报错通常出现在使用 DynamicCache(offloading=True) 加载混合 Gated-DeltaNet + attention 架构模型(如 Qwen3.8-27B)时,第二次 forward 复用缓存后 logits 出现远超 bf16 舍入误差的数值偏差,优先排查 offlo
![ValueError: The number of images in the text [2] and images [1] should be the same.](https://www.chat-gpts.plus/wp-content/uploads/2026/10/47217-a358ec78-768x403.jpg)
该报错通常出现在部分视觉语言(VL)模型上:当用户在文本里手动写入了模型的图像占位符(例如 )时, apply_chat_template(..., tokenize=True) 会因为字符串匹配到两个占位符而抛错。优先排查用户文本中是否误写了占位符,并确认所使用处理器的占位符计数逻

该报错通常出现在 n8n 工作流调用 Output Parser 节点、并配合 LLM(本例为 Gemini 模型)执行 function calling / 工具调用时,模型返回内容不符合解析器要求的格式,导致执行随机失败。优先排查模型是否正确触发工具调用,以及 Output Parser 的格式