自动驾驶黑箱能被拆开看吗？新论文用稀疏自编码器解读端到端规划

事件核心：发生了什么

目前公开信息显示，研究团队训练了一个简单的单摄像头端到端路径规划模型，再对其内部激活训练 SAE。对 SAE 隐变量做无监督聚类后，出现了与路线意图、车速、刹车行为相关的可解释结构，其中路线意图的恢复准确率为 98.3%。论文还通过成对的反事实图像编辑，说明部分特征对红绿灯状态、停车标志等场景变化有系统响应；单独调节某些隐变量，会让横向位移、曲率和刹车等规划输出产生可预测、单调的变化。研究同时构建了一个基于 SAE 隐变量的轻量适配器，在摘要所述评测条件下，轨迹选择误差降低 3.44%，优于不使用这些隐变量的同类适配器。

为什么重要

端到端自动驾驶的卖点是“从感知直接到规划”，性能强但中间过程不透明，给调试、故障归因和信任建立带来困难。这项工作把大模型领域常用的 SAE 方法迁移到驾驶规划模型上，验证了内部激活中确实存在可被人理解的结构，而且这些结构不只是“好看”，还能用于改进下游选择。它的意义在于给可解释性研究提供一个可复现的实验范式，而不是证明真实量产系统已经可以被完全解释。

对用户/开发者/创作者的影响

对自动驾驶开发者来说，这类方法可能成为调试工具：当规划器做出异常转向或刹车时，可以检查对应的 SAE 特征是否被异常激活。对关注 AI 安全的人，它提供了“解释性特征是否能服务于控制”的初步证据。对普通用户，短期内不会带来直接功能变化；论文中的模型是简化版单摄像头规划器，距离复杂多传感器量产系统还有明显距离。创作者和行业观察者则可以把注意力放在方法能否扩展到更大模型和真实道路数据上，而不是只盯着 98.3% 这个数字。

AI 工具推荐

想把多个 AI 模型放在一个入口？

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。

值得关注的后续

一是该方法能否在更复杂的多摄像头、多模态端到端系统中复现；二是 SAE 特征是否稳定、是否依赖特定训练数据；三是基于隐变量的适配器能否在真实闭环驾驶和更长尾场景中保持收益。目前公开信息仅来自论文摘要，实验细节和局限还需要看全文与代码。

来源：alphaXiv