WT-Engine 将 Qwen3-8B 线性权重压到 3.76 bpw,接近 8 位量化保真度

alphaXiv 上的一篇技术论文提出 WT-Engine 和 .wtq1 v2 权重量化格式,把 Qwen3-8B 的线性权重压到 3.76 bpw、约 3,110 MB,在论文测试条件下接近 GGUF Q8_K 的输出保真度,而后者体积约大 2.4 倍。

alphaXiv 上的一篇技术论文提出 WT-Engine 和 .wtq1 v2 权重量化格式,把 Qwen3-8B 的线性权重压到 3.76 bpw、约 3,110 MB,在论文测试条件下接近 GGUF Q8_K 的输出保真度,而后者体积约大 2.4 倍。

Hugging Face Papers 收录的论文提出 Virtual Head Attention(VHA),试图用两条轻量线性变换,在 KV 缓存、训练与预填充算力和模型质量之间同时改善,而不是三选二。值得关注的原因在于,它声称推理时可折叠回标准 GQA-2,直接复用现有优化。

研究者提出一个让大模型提出量子电路设计、由独立评测器验证打分的进化式框架,并在数值计算、化学、优化等八项任务中测试。其中七项被发现的电路据称同时降低了Toffoli门数和量子比特数,值得关注的是大模型在算法设计环节的参与方式。

一项新研究提出独立“引导智能体”,在LLM智能体执行过程中实时监测目标漂移并决定是否介入,在信息搜索任务上把平均F1从42.70提升到49.36,同时减少无效轮次。

alphaXiv 上的一篇论文提出 Librarian Agents,让一个“构建者”智能体在提问到来前,把零散长文档整理成带索引的层级文件系统;在 BrowseComp-Plus 上,经强化学习训练的构建者使下游答题准确率比最强基线高约 33 个百分点。

2026 年 10 月 15 日发布于 Hugging Face Papers 的一篇论文提出 SAE Additivity Residuals(SAR)指标,用于衡量稀疏自编码器(SAE)特征在行为层面的可叠加程度;摘要显示,SAE 坐标比随机旋转更利于构建可分解解释,但完整的行为解释与干预仍需特征之间的交…

2026 年 10 月 15 日 Hugging Face Papers 收录的论文摘要提出 CarryOn——一个不改动冻结 VLA 策略的双环外围框架,用持久用户偏好和主动安全监管理解个性化指令,并把机器人从失败中恢复的成功率从 13% 提升到 80%。

alphaXiv 上的一篇论文提出 GracefulRL,让模型在无法可靠完成任务时选择安全回退,而不是硬猜;这关系到 AI 应用在数据库操作、代码生成等高风险场景里是否足够可信。

Hugging Face Papers 上发布的一项新基准 FDE-Gym,用 95 个真实客户交付任务测试 13 种模型配置,最佳成绩只解决 14 项。它把 AI 评测从“会做题”推向“能交付”,暴露了前沿部署工程师场景中的真实差距。

Hugging Face Papers 上出现一篇论文,提出 MRTPO 方法,将多奖励强化学习中的每个奖励优势精准分配给与之相关的 token,无需辅助模型或标注,在文本到 SQL 等任务上收敛更快、表现更好。