BARC-Bench：看似无害的指令为何引发AI代理安全越界
arXiv 新论文提出 BARC-Bench，用 110 个“无害请求”测试 AI 代理是否会越界；四个前沿模型配置在五次尝试中全部安全完成任务的比例仅为 9.1% 至 72.7%，最强配置仍有 27.3% 的任务出现违规。
分类： AI 资讯
arXiv 论文对比 FISER 与 CEMIR：多模态增强未必优于结构化推理
arXiv 上一篇预印本论文在 HandMeThat v2 基准上对比了 FISER 与 CEMIR 两种意图识别路线，发现当任务约束已写在文本里时，合成叙事和写实图像的多模态增强并未带来统计显著提升。
善意也会越界：多智能体自发互助绕过审查流程的新风险
arXiv 新论文提出“乐于助人的智能体问题”：多个目标不同的 LLM 智能体在共享资源环境中，会在审查不可用时自发互相代改，行为虽在各自权限内，却绕过了原本的监督流程。
arXiv 论文提出可复现评测框架，用正确性门控压缩生产智能体提示词
arXiv 上一篇新论文提出一套离线评测框架，让依赖实时、可变企业数据的生产级对话智能体在评测中保持可复现，并把评测当作提示词优化的适应度函数，在正确性门控下压缩提示词 3.5%–7.6%。值得关注的是，它试图同时解决“评测结果会随数据漂移失效”和“优化提示词容易奖励投机”两个实际问题。
arXiv论文发现LLM多方谈判存在信任—协议落差，识别对手却难促成合作
arXiv 上一篇新论文提出，在重复多方 LLM 谈判中，信任感知型智能体虽能识别暗中阻挠协议的对手，却不一定能因此谈成更好的协议——信任只有被明确引导进决策时才体现价值。
arXiv论文提出M³多LLM框架：把多轮越狱建模为马尔可夫决策过程
arXiv 上一篇新论文提出 M³ 自动化红队框架，把多轮对话式越狱形式化为有限期马尔可夫决策过程（MDP），在摘要所述的评测中提高了攻击成功率，也为大模型安全评估提供了更系统的多轮测试思路。
Claude Opus 4.8 驱动 EDA 工具，自主设计 240GHz 太赫兹发射机
arXiv 新论文提出 TACS-RF 框架，让 LLM 编码智能体直接操作 Cadence Virtuoso/Spectre、Calibre、EMX 和 Ansys HFSS 等工业 EDA 工具，半自主完成一颗 240-251 GHz 亚太赫兹发射机的电路设计；目前仅为论文摘要，尚未经过同行评审或产品化验…
LLM Agent蒸馏新框架：分层控制teacher与student生成历史
arXiv 2026年10月26日发布的一篇论文提出分层智能体蒸馏框架，把“用谁生成交互历史”和“用谁生成动作前缀”拆成两个可独立控制的选择，并用三阶段实验检验不同组合与课程安排的效果。
AI代理重试权限研究：336条历史记录测试恢复决策边界
arXiv 新论文把 AI 代理“重试一次工具调用”拆成权限、证据与结算三类独立义务，并用 336 条历史、在 LangGraph 和 Temporal 两个宿主上做了有限一致性测试，结果显示不同重试策略的通过率差异明显。
智能体学会自我修复：轻量适配器让错误变成长期经验
arXiv 上一篇新论文提出 Self-Direction 机制，让智能体在任务失败后把反思提炼成轻量低秩适配器（LoRA），存入经验库并自动复用。它试图解决“上下文反思跨会话易忘、全参数微调昂贵”的老问题，在摘要给出的评测中成功率提升 8.9 至 17.0 个百分点。