弱模型给强模型修裁判:黑客-修复循环降低奖励攻击

一篇 2026 年 10 月发布在 alphaXiv 的论文提出“弱到强验证器加固”方法:把评分逻辑放进隔离沙箱,用黑客-修复循环自动找漏洞并打补丁,在 Terminal Bench 等三个智能体环境上降低了奖励攻击成功率。它值得关注,因为奖励攻击会让大模型训练和评测的分数失真。

一篇 2026 年 10 月发布在 alphaXiv 的论文提出“弱到强验证器加固”方法:把评分逻辑放进隔离沙箱,用黑客-修复循环自动找漏洞并打补丁,在 Terminal Bench 等三个智能体环境上降低了奖励攻击成功率。它值得关注,因为奖励攻击会让大模型训练和评测的分数失真。

alphaXiv 2026年10月12日收录的论文提出 HarnessTTT,让一个可训练“提案器”在测试时学习生成系统提示、工具与执行控制,冻结的小模型执行器据此搜索科研解,在多项发现任务上超过同类基线。

alphaXiv 2026年10月12日展示的论文提出 DuoDiscover 搜索系统,用“木尺”代理评测绕开动辄数小时的昂贵真实验证,在软件、GPU/TPU 内核和 CPU 芯片设计任务上取得显著优化,直指自主发现的评测瓶颈。

alphaXiv 上的一项研究提出 LLM-to-Flow Distillation(LFD),让冻结的大模型充当“教师”,把“生成有抗癌潜力的多肽”这类自然语言目标拆解成可学习的子目标,再通过 DPO 逐步蒸馏进专业流式生成器,无需显式代理奖励。

alphaXiv 上公布的论文 ProTok 提出用产品量化把蛋白质的结构、序列、功能映射到同一套离散词表,单个检查点即可在缺少部分模态时推理,在 28 个结构分词器评测划分中拿下 21 项第一。

一项名为 Interaction-as-a-Judge 的研究提出让 computer-use agent 直接操作运行中的网页、桌面应用和游戏,用交互过程来评估和修复 AI 生成的交互式应用。相比只读代码的评测方式,该方法在预测人类偏好和验证需求上均有提升,还能在推理阶段以更高比例修复损坏功能。

Hugging Face Papers 收录的 LifeSearch 基准显示,12 个先进深度研究代理在 203 个真实生活与生产力任务上表现有限,即便最强的 GPT-5.6 Sol 也仅得 63.4 分,说明现有 AI 代理离可靠处理日常复杂信息需求仍有距离。

2026年10月10日发布的 Last Secure Code Benchmark 用 450 项任务测试六款前沿编码 AI,即使最强模型 Claude Fable 5 也只有 25.1% 的任务同时通过功能与安全测试,凸显 vibe coding 在安全代码生成上的明显短板。

这个报错通常发生在 llama.cpp 加载模型(尤其是加载目标模型后再加载投机解码 draft 模型)时,某块 CUDA 设备通过 cudaMemGetInfo 报告 free == 0 ,导致 tensor split 归一化时出现除零、产生 NaN,最终把层分配到不存在的设备索引上。优先排查显

这个报错通常出现在 llama.cpp 先加载已占满显存的目标模型、再加载 draft(草稿)模型做投机解码时;底层原因是显存空闲量读到 0,导致 splits 归一出 NaN, devices.at() 越界。优先排查目标模型是否已经把显卡显存吃满,并尝试用 -ts 1 绕过按空闲显存切分的代码路