CKT-WAM：世界行动模型之间的参数高效上下文知识迁移

CKT-WAM: Parameter-Efficient Context Knowledge Transfer Between World Action Models

世界动作模型（WAMs）为具身控制提供了强大的生成框架，然而，由于潜在接口不匹配、适应成本高昂以及传统蒸馏目标的刚性限制，在异构WAMs之间迁移知识仍然具有挑战性。我们提出\textbf{CKT-WAM}，一种参数高效的\textbf{C}ontext \textbf{K}nowledge \textbf{T}ransfer（上下文知识迁移）框架，通过文本嵌入空间中的紧凑上下文将教师WAM的知识迁移到学生WAM中，而非通过输出模仿或密集隐状态匹配。具体而言，CKT-WAM提取教师中间隐状态，通过压缩器的可学习查询交叉注意力（LQCA）减少令牌数量，并通过始终开启的广义适配器、轻量级路由器以及稀疏激活的专用适配器对其进行转换。随后将生成的上下文附加到学生模型的条件文本嵌入中，从而以最小的架构修改将迁移知识注入学生模型。实验表明，CKT-WAM持续提升了零样本泛化能力，并在LIBERO-Plus数据集上取得了最佳整体性能：仅以1.17%的可训练参数实现了86.1%的总成功率，同时接近全微调性能。超越仿真环境，CKT-WAM还展现了较强的真实世界长时域操控能力，在四个多步骤及长时域任务中取得了83.3%的最佳平均成功率。代码已开源至https://github.com/YuhuaJiang2002/CKT-WAM。