BlockVLA：通过块扩散微调加速自回归VLA

BlockVLA: Accelerating Autoregressive VLA via Block Diffusion Finetuning

尽管自回归（AR）视觉-语言-动作（VLA）模型在机器人任务中展现出强大的推理能力，但其顺序解码过程通常导致高推理延迟，并可能在长时间执行过程中放大错误积累。离散扩散语言模型（dLLMs）通过并行令牌优化提供了一种有前景的替代方案，但其在机器人实际部署中仍受限于重复的去噪函数评估（NFEs）以及将标准KV缓存直接应用于双向迭代解码的困难。为桥接这些范式，我们提出BlockVLA，一种通过块扩散范式将预训练AR骨干模型适配为高效离散扩散策略的框架。BlockVLA在块级别保持自回归依赖关系，同时支持每个块内的并行去噪，从而结合全局因果一致性与局部并行生成。该设计使得已完成块的前缀KV缓存得以复用，降低了迭代去噪的有效成本，并实现了从AR预训练到基于扩散的策略微调的更平滑过渡。我们在LIBERO和SimplerEnv基准上进行了广泛评估。实验结果表明，我们的BlockVLA相比标准离散扩散基线实现了3.3倍的推理加速。此外，我们的模型展现出更优的训练效率，成功率收敛速度显著快于基线，这一优势在复杂、长时域任务中尤为突出，BlockVLA在训练早期即取得显著的性能提升。本工作确立了块扩散作为大规模预训练AR模型与高效、高频率实时机器人控制之间的稳健桥梁。