- 现有**深度神经网络(Deep Neural Networks)** 主导自动驾驶感知，但其**不透明性(opacity)** 与新兴的**可信AI(Trustworthy AI)** 准则冲突，导致安全保证、调试和人类监督困难
- 尽管存在关于安全可解释AI的**理论框架(theoretical frameworks)**，但针对3D场景理解的可信AI具体实现仍然稀缺
- 研究背景：自动驾驶中需要同时保证模型的**鲁棒性(robustness)**、**可解释性(explainability)** 和**不确定性校准(uncertainty calibration)**，以满足法规和安全要求
- 基于**Transformer检测器(transformer-based detector)**，从**注意力机制(attention mechanism)** 在推理时生成**解释(explanation)**
- 使用**扰动一致性测试(perturbation-based consistency tests)** 验证解释的**忠实性(faithfulness)**
- 集成**不确定性估计与校准模块(uncertainty estimation and calibration module)**，并应用**鲁棒性增强训练方法(robustness-enhancing training methods)**
- 在原型车辆中部署可信AI元素，并提供**XAI界面(XAI Interface)**，可视化文档、模型不确定性状态和**显著性图(saliency maps)**
- **首创性**：提出了一个完整的**可信AI感知模块(Trustworthy AI perception module)**，同时具备鲁棒性、忠实可解释性和校准的不确定性估计，填补了理论到实践的空白
- **端到端部署**：将可信AI元素实际部署到**原型车辆(prototype vehicle)** 中，并实现实时监控，证明了可行性
- **验证方法**：通过扰动测试验证注意力解释的忠实性，而非仅依赖视觉上的合理性，提升了可解释性的可信度
- 为**自主驾驶感知(autonomous driving perception)** 领域提供了一种**可落地的可信AI范式**，展示了如何将鲁棒性、可解释性和不确定性校准集成于统一框架
- 在实验上证明了模型具有**忠实的显著性行为(faithful saliency behavior)**、**改进的鲁棒性** 和**校准良好的不确定性估计**
- 开源了补充材料，包括实车部署的XAI界面，促进社区进一步研究和复现