探索端到端自动驾驶的因果性

端到端自动驾驶把感知、预测、规划压缩进一个模型，用数据驱动的方式直接输出驾驶动作，省掉了传统多模块级联的累积误差。但这项研究指出的问题同样直接：这类模型的 black-box property 让人难以判断它为什么做出某个动作，而自动驾驶对安全的要求极高，缺乏透明度会削弱信任、限制落地。更具体地说，端到端架构包含多个模块，每个模块对最终决策输出的具体影响并不清楚，领域内缺少一套系统性的分析框架来帮研究者调试。这份资料要回答的就是这个问题：如何把端到端自动驾驶的因果链条打开，找出真正决定最终预测动作的关键因素。

作者提出的是一套组合式方法，而不是单一工具。第一步用控制变量和反事实干预做定性分析，验证最终规划究竟依赖哪些关键信息；第二步通过可视化和统计分析关键模型输入的响应，定量评估各因素对模型决策的影响。这两步之外，作者还做了针对关键组件作用的定量消融实验，并提出两类响应可视化方法：组件级可视化，从响应的时间一致性和场景相关性两个角度分析；激活图可视化，展示语义特征影响的空间分布。整个研究在闭环仿真器 CARLA 中完成，并给出了一个强基线和一个用于探索因果关系的工具，代码计划开放在公开仓库。

作者对问题性质的判断值得单独说明。他们认为，与人驾驶时的决策过程类似，端到端模型的最终动作预测往往是多因素的：比如无保护左转时，智能体需要同时考虑交通灯、对向直行车辆、过街行人和静态车道线。而在真实世界的模仿学习设定中，错误归因很常见。这意味着，仅凭观察模型输出而不拆解各因素的贡献，很容易把某个动作归因到错误的输入上。作者的应对是先用量化消融摸清各关键组件的角色，再用反事实推理定性找出导致最终预测动作的最有影响力的特征，最后用基于注意力的策略定量分析每个因素的贡献，据此调整端到端模型。

在结果层面，作者给出的核心主张是：这是首个揭开端到端自动驾驶黑箱、把它从 black box 变成 white box 的工作。他们称，基于对多因素端到端驾驶系统的综合研究，所开发的基线利用关键输入源得到了设计良好的模型，具备很强的竞争力；充分的闭环实验表明，该方法可以用于端到端自动驾驶方案的因果调试。需要说明的是，材料中没有给出具体的性能数值、对比表格或消融幅度，这些结论以作者的定性表述形式出现，读者不宜把它们当作已经被独立复现的量化结论。

这些结论的实践含义，按作者的行文来解读，主要有两层。第一层是调试：研究者可以借助反事实干预和响应可视化，定位是哪个输入因素把模型推向了某个预测动作，从而区分真实因果与模仿学习中的错误归因。第二层是模型改进：把关键输入源识别出来之后，可以据此设计更强的基线，使模型在保持竞争力的同时提供预测的可解释性。换句话说，这套方法把可解释性从「事后看图」推进到「参与模型调整」的环节。作者同时强调，这类分析是在 CARLA 闭环仿真中完成的，方法面向的是端到端自动驾驶方案的因果调试，而不是某个已量产系统的安全认证。

这份资料面向的是做端到端自动驾驶、规划控制或可解释性研究的研究者与工程师，尤其是那些已经在闭环仿真里跑通模型、却苦于说不清模型为何如此决策的人。读完可以拿走的是一套可操作的分析思路：控制变量与反事实干预做定性、消融与注意力分析做定量、组件级与激活图两类可视化做呈现，以及在 CARLA 中复现这套流程的基线方向。边界也需要点明：材料只覆盖方法与主张，未提供具体精度数字与横向对比，代码当时尚未发布，所有实验限于仿真环境；「首个」这一表述是作者的自述，读者应结合后续工作自行判断。

Exploring the Causality of End-to-End Autonomous Driving Jiankun Li Hao Li Jiangjiang Liu Zhikang Zou Xiaoqing Ye † Fan Wang Jizhou Huang † ∗ Hua Wu Haifeng Wang Baidu Inc., China {lijiankun02, lihao57, yexiaoqing, huangjizhou01}@baidu.com Abstract Deep learning-based models are widely deployed in autonomous driving areas, especially the increasingly noticed end-to-end solutions. However, the black-box property of these models raises concerns about their trustworthiness and safety for autonomous driving, and how to debug the causality has become a pressing con- cern. Despite some existing research on the explainability of autonomous driving, there is currently no systematic solution to help researchers debug and identify the key factors that lead to the final predicted action of end-to-end autonomous driving. In this work, we propose a comprehensive approach to explore and analyze