标签: 大模型

机制可解释性能否让AI更安全?综述给出谨慎答案

机制可解释性能否让AI更安全?综述给出谨慎答案

alphaXiv 发布的一篇综述系统梳理了面向 AI 安全的机制可解释性(MI)研究,核心追问是“看懂模型内部是否真能减少风险”。综合现有公开信息,作者给出的答案偏谨慎:内部观察能发现输出测试遗漏的信号,但“理解即更安全”这一前提仍缺乏系统性验证。