该论文旨在解决人机协作(Human Robot Collaboration, HRC)中机器人安全决策的透明度问题。研究背景是:机器人在共享的、安全关键的环境中运行时,仅安全行动已不足够,还必须让人类协作者理解其安全决策。当前,机器人因内部安全约束触发的行为(如停止或切换模式)对附近工作人员而言通常是不透明的。
论文提出了一个基于对话(dialogue-based)的交互式解释框架。该方法的核心是:
- 将解释与基于约束(constraint-based)的安全评估紧密耦合。
- 使对话基于与行为选择相同的状态(state)和约束(constraint)表示。
- 直接从记录好的决策轨迹(decision trace)中推导解释。
- 支持用户提出因果性("Why?")、对比性("Why not?")和反事实("What if?")查询。
- 在固定的、经过认证的安全参数下,以有界(bounded)方式评估反事实推理(counterfactual reasoning),确保交互探索不会削弱操作安全保证。
- 在建筑机器人场景中实例化该框架,并提供结构化的操作轨迹(operational trace)进行说明。
论文的核心创新点在于:
- **将解释视为安全控制的操作接口(operational interface)**:提出了一种将交互式解释与底层安全约束评估直接、紧密集成的框架,而非事后附加的解释模块。
- **基于决策轨迹的多类型查询支持**:能够直接从机器人的内部决策记录中生成并回答因果性、对比性和反事实查询,特别是**在安全边界内进行有界反事实推理**,这在保证安全性的前提下实现了灵活的交互探索。
- **约束感知(constraint-aware)的对话机制**:对话内容根植于驱动机器人行为选择的同一套状态和约束表示,确保了解释的真实性和一致性。
论文对该领域的整体贡献是:
- 提出并实例化了一个用于人机协作(HRC)安全决策的交互式解释框架,将解释能力深度嵌入安全控制系统。
- 通过支持多种类型的自然查询(尤其是安全的反事实查询),提升了人类对机器人安全干预的理解,并支持协调的任务恢复。
- 为设计交互式、安全感知的(safety-aware)自主系统提供了一种新的设计视角,推动了人机协作中透明度和信任度的研究。