← 返回论文列表

“为何采取此规避动作?”——人类监督下海上自主导航的对比性解释
"Why This Avoidance Maneuver?" Contrastive Explanations in Human-Supervised Maritime Autonomous Navigation

作者: Joel Jose, Andreas Madsen, Andreas Brandsæter 等5人
arXiv: 2604.08032v1
分类: cs.AI, cs.RO
📝 论文摘要
在可预见的未来,自动化海上避碰系统仍需人类监督。这就要求系统必须向操作者透明展示其对场景的感知与机动规划逻辑。然而,避碰决策背后的因果逻辑往往复杂难懂,难以为航海人员所理解。本文探讨如何为具备航海背景的监督人员提供具有选择性、易于理解的解释方案。我们提出一种对比解释生成方法,通过将系统建议方案与相关替代方案进行对比,提供以人为本的决策洞见。为验证该方法,我们开发了一个解释框架,运用视觉与文本线索突出现有先进避碰系统的核心决策目标。一项由四位经验丰富的高级船员参与的探索性用户研究表明,对比解释有助于理解系统决策目标。但研究同时发现,虽然这类解释在多船交会的复杂场景中极具价值,却可能增加认知负荷。这表明未来海事交互界面或需采用按需触发或针对特定场景的解释策略,以实现最佳效果。

📊 核心分析

🎯 研究动机
该论文旨在解决海事自主导航系统中人机协作的透明度问题。研究背景是:在可预见的未来,自动化海上防撞系统仍需人类监督,但系统规划避让机动动作的因果逻辑通常复杂且难以向导航员清晰传达。
🔧 核心方法
论文提出了一种生成对比解释(contrastive explanations)的方法,该方法通过将系统提出的解决方案与相关替代方案进行比较,提供以人为中心的洞察。具体包括: - 开发了一个框架,利用视觉和文本线索来突出最先进的防撞系统(collision avoidance system)的关键目标。 - 通过一项探索性用户研究(涉及四名经验丰富的海事官员)来评估该方法的有效性。
💡 核心创新
论文的核心创新在于将对比解释(contrastive explanations)范式专门应用于海事自主导航的人机监督场景。与现有工作相比,其独特之处在于: - 不是简单地解释系统“做了什么”,而是通过对比系统“为什么选择此方案而非彼方案”来提供选择性、易于理解的解释。 - 针对具有航海背景的监督者进行设计,强调解释的可理解性(understandable manner)。 - 首次通过用户研究揭示了对比解释在复杂多船遭遇(multi-vessel encounters)中的高价值,同时也指出了其可能增加认知负荷(cognitive workload)的局限性。
🏆 总体贡献
论文对该领域的整体贡献包括: - 提出并验证了一种用于海事自主导航人机监督的对比解释生成方法,增强了系统的透明度(transparency)。 - 通过实证研究证明,对比解释有助于监督者理解系统的目标(objectives)。 - 揭示了该方法的适用场景(复杂多船遭遇)和潜在代价(增加认知负荷),为未来海事人机界面(maritime interfaces)的设计提供了关键见解,即可能需要需求驱动(demand-driven)或特定场景(scenario-specific)的解释策略。