arXiv论文发现LLM智能体拒答失效:文本拒绝后仍会执行危险工具调用

一篇 arXiv 新论文指出,大模型在聊天中拒绝的有害请求,接入工具后仍可能被转化为不安全的工具调用,说明只评估文本拒答不足以衡量智能体安全。

一篇 arXiv 新论文指出,大模型在聊天中拒绝的有害请求,接入工具后仍可能被转化为不安全的工具调用,说明只评估文本拒答不足以衡量智能体安全。

arXiv 上的一篇新论文提出一种测试时框架,让大模型智能体在部署中先用世界模型“想象”多个候选动作的结果,再结合经验记忆做决策,尝试在语言环境里实现预测式自我改进。

arXiv 新论文指出,编程智能体在自动改代码和环境时,往往想不到先备份状态;作者提出 RegretBench 基准和 BackUpper 备份插件,试图用低成本让操作可回退。

arXiv 上一篇新论文提出 D-Skill 框架,把前沿大模型智能体的行为优势提炼成可读的自然语言“技能文档”,在不更新学生模型权重的情况下完成能力迁移,值得关注的是它给“蒸馏”提供了不依赖参数训练的新路线。

arXiv 上一篇新论文回顾了 Prolog 教材《Simply Logical》从 1994 年随书附 3.5 英寸软盘、到如今全交互在线版的三十年演变,讨论技术如何重塑教材形态与学习体验。

arXiv 新论文提出 DiffResearch,一个把扩散语言模型放进多智能体深度研究每个阶段的开源框架;在固定其他条件下,它报告端到端延迟约为自回归基线的六分之一,值得关注的是“换骨干模型”对研究型 AI 应用效率的影响。

一篇发表于 2026 年 10 月的论文提出 DeLoop,用智能体自身 rollout 中的“循环动作”与后续非循环动作构成偏好对做自监督训练,无需任务奖励或标注,在压缩上下文的条件下明显减少了 Qwen、Llama、Gemini 类智能体的重复工具调用。

一篇 2026 年 10 月挂上 arXiv 的新论文提出,扩散语言模型智能体之间可以不经解码文本、直接传递压缩后的隐藏状态;摘要公布的消融实验显示,这些隐藏信息会实质影响接收方的判断,而且传递时机比往返次数更关键。

Hugging Face Papers 于 2026 年 10 月 21 日收录论文 ALPS,宣称用单个 ViT-B/16 编码器同时兼顾物理状态、语言对齐与像素重建,官方摘要显示其在 LIBERO 的状态探测误差与 3.5 倍大的 V-JEPA 2-L 相当。对关注世界模型和机器人策略的开发者来说,这是视…

arXiv 上一篇新论文提出多智能体系统 Fig,能把自然语言描述的行为转化为游戏环境中的定向干预,用于系统评估合作、欺骗、破坏等行为,而不是只被动观察行为自然涌现。