Doc2Harness 评测:19 个前沿模型重构 Agent 工程框架,最高通过率 53.05%

Hugging Face Papers 收录的论文提出 Doc2Harness,首次把“围绕大模型搭建 Agent 工程框架”本身作为评测对象;19 个前沿模型在三轮独立构建、328 个测试用例中,最高通过率仅 53.05%。

Hugging Face Papers 收录的论文提出 Doc2Harness,首次把“围绕大模型搭建 Agent 工程框架”本身作为评测对象;19 个前沿模型在三轮独立构建、328 个测试用例中,最高通过率仅 53.05%。

Artificial Analysis 发布 AA-Robotics v0.1 研究预览,首次用 8 个桌面任务评测前沿语言模型直接控制 6 轴机械臂的能力。GPT-6 Astra 以 69.4 分居首,但平均每任务耗时 30 分钟、成本 16.36 美元,距生产可用仍有明显距离。

论文 AutoEnvScaling 让一个智能体扮演“出题者”,根据另一个智能体在终端任务中的失败记录自动生成并验证新的强化学习环境,在 Terminal-Bench 2.1 上带来最高 12.2 分的提升,目前仍属研究阶段的方法验证。

alphaXiv 2026年10月12日收录的论文提出 HarnessTTT,让一个可训练“提案器”在测试时学习生成系统提示、工具与执行控制,冻结的小模型执行器据此搜索科研解,在多项发现任务上超过同类基线。

Hugging Face Papers 收录的 LifeSearch 基准显示,12 个先进深度研究代理在 203 个真实生活与生产力任务上表现有限,即便最强的 GPT-5.6 Sol 也仅得 63.4 分,说明现有 AI 代理离可靠处理日常复杂信息需求仍有距离。

华为诺亚等团队提出AesCode,用图像生成结果作为美学参考来指导代码生成,在视觉质量基准上比同规模基线提升31.1个百分点,为“让代码模型看懂画面”提供了新思路。

arXiv 上一份新论文提出长时程终端基准测试 LHTB 2.0,通过扩展任务和密集进度评分,发现只看最终结果会严重低估智能体在执行过程中的实际进展。

一篇新论文提出 Tev-Gym 训练环境与进度奖励方案,把原本奖励稀疏、难以验证的长程任务变得可训练,并训练出 Tev-27B 模型,在若干长程智能体评测中接近或超过部分闭源旗舰模型。

研究者提出“结构化消歧”新范式并发布 ARCS 基准,用来衡量真实数据库中自然语言提问歧义对 text-to-SQL 的影响;在摘要披露的评测中,gpt-6-sol 端到端执行准确率仅 51%,开源模型均未超过 27%。

Hugging Face Papers 收录的一篇论文提出 AgentSWE 基准,专门检验编程智能体能否按需求造出真正可用的 Agent,结果显示目前没有模型接近达标。