角色扮演绕过安全拒答?多语言大模型暴露叙事包装漏洞,AXIS防御方案出炉

最新 arXiv 论文指出,安全对齐后的大模型在面对直接有害请求时会拒绝,但同一请求被套上角色扮演或叙事包装后,拒答率大幅下降。论文同时提出了防御方法 AXIS,试图从表示层修正这一漏洞。

最新 arXiv 论文指出,安全对齐后的大模型在面对直接有害请求时会拒绝,但同一请求被套上角色扮演或叙事包装后,拒答率大幅下降。论文同时提出了防御方法 AXIS,试图从表示层修正这一漏洞。

Hugging Face Papers 收录的 ReSPO 论文提出用平滑双分支序列核替代 PPO 式裁剪,缓解可验证奖励强化学习中正样本梯度被抑制的问题,并在 Qwen3 稠密和 MoE 模型上报告了训练早期加速与最终分数提升。

arXiv 上一项新研究提出用多智能体社区辩论来评测大模型的“规范能力”,即仅靠互动推断群体真正执行的社会规则。结果显示,基线 LLM 智能体学不会这些规范,还会把无关的个人习惯当成规则一起模仿。

一篇 arXiv 新论文测试了小参数 LLM 智能体在明确墙钟时间预算下的表现:加上计时反馈或强化学习后,智能体能较好地遵守截止时间,但仍不擅长把多出来的时间转化为更好的任务表现。

一篇2026年10月9日发布于arXiv cs.AI的立场论文提出,面向人的AI不应强行把人类的不同标注压缩成唯一标准答案,而应区分“有意义的模糊”和“噪声”。这关系到推荐、内容审核、医疗辅助等系统是否真正尊重人的差异。

arXiv 新论文提出 Plan-and-Patch,用扩散语言模型(dLLM)生成程序式规划并在出错时只修补局部区域;在 Natural Plan 任务上,无任务训练的扩散规划修复成功率达到 53.7%,约为自回归模型 27.0% 的两倍。

一篇发布于 Hugging Face Papers 的论文提出 MC-Sparse,这是一种免训练稀疏注意力框架,声称在不明显损失生成质量的前提下,让扩散 Transformer 的视频与 3D 生成去噪速度最高提升 2.32 倍。

一篇 arXiv 新论文提出“轨迹锚定指令翻译器”(TGIT),在不重训导航模型的情况下,把用户简短意图指令翻译成导航器能执行的命令,使冻结 OpenFly 导航器在弱指令下的成功率从 11.33% 提升到 37.93%。

字节跳动旗下AI助手豆包App正式上线生活缴费功能,用户可通过语音或文字指令直接缴纳水、电、燃气等费用。这意味着大模型产品的竞争正从文本生成转向高频生活服务场景的实际操作与闭环。

一篇新论文提出把人类偏好奖励与规则评分奖励组合起来,对文生图模型做后训练,使 Flux2dev 在 Arena 榜单 Elo 提升 69 分,并称后训练的 Ideogram-4 达到 1223.5 分。值得关注的是,它试图解决单一奖励信号难以覆盖用户意图、又容易被优化“钻空子”的问题。