该论文旨在解决海事自主导航系统中人机协作的透明度问题。研究背景是:在可预见的未来,自动化海上防撞系统仍需人类监督,但系统规划避让机动动作的因果逻辑通常复杂且难以向导航员清晰传达。
论文提出了一种生成对比解释(contrastive explanations)的方法,该方法通过将系统提出的解决方案与相关替代方案进行比较,提供以人为中心的洞察。具体包括:
- 开发了一个框架,利用视觉和文本线索来突出最先进的防撞系统(collision avoidance system)的关键目标。
- 通过一项探索性用户研究(涉及四名经验丰富的海事官员)来评估该方法的有效性。
论文的核心创新在于将对比解释(contrastive explanations)范式专门应用于海事自主导航的人机监督场景。与现有工作相比,其独特之处在于:
- 不是简单地解释系统“做了什么”,而是通过对比系统“为什么选择此方案而非彼方案”来提供选择性、易于理解的解释。
- 针对具有航海背景的监督者进行设计,强调解释的可理解性(understandable manner)。
- 首次通过用户研究揭示了对比解释在复杂多船遭遇(multi-vessel encounters)中的高价值,同时也指出了其可能增加认知负荷(cognitive workload)的局限性。
论文对该领域的整体贡献包括:
- 提出并验证了一种用于海事自主导航人机监督的对比解释生成方法,增强了系统的透明度(transparency)。
- 通过实证研究证明,对比解释有助于监督者理解系统的目标(objectives)。
- 揭示了该方法的适用场景(复杂多船遭遇)和潜在代价(增加认知负荷),为未来海事人机界面(maritime interfaces)的设计提供了关键见解,即可能需要需求驱动(demand-driven)或特定场景(scenario-specific)的解释策略。