- 现有**运动重定向(motion retargeting)** 方法仅关注**运动学(kinematics)** 重现,忽略了与人体运动相关的丰富**感知运动体验(sensorimotor experience)**
- 研究背景:随着**人形机器人(humanoid robots)** 能力增强,从人类到类人机器人的运动重定向日益重要,但缺乏多模态感知模拟
- 需要一种能够从单视频重建婴儿运动并模拟其**本体感觉(proprioception)**、**触觉(touch)** 和**视觉(vision)** 等感知流的方法
- 从单一视频中提取婴儿**骨骼结构(skeletal structure)** 并估计**完整3D姿态(full 3D pose)**,重建婴儿身体配置
- 将重建的运动映射到多个发育平台:物理**iCub机器人** 和虚拟模拟器**pyCub**、**EMFANT**、**MIMo**
- 在重定向的运动重放过程中,产生模拟的**多感官流(multisensory streams)**,包括本体感觉(关节和肌肉)、触觉和视觉
- **首次** 实现从婴儿到人形机器人的**多模态运动重定向(multimodal motion retargeting)**,不仅重现运动学,还模拟感知运动体验
- 支持多种**物理和虚拟人形平台(physical and virtual humanoids)** 的统一框架,实现跨平台比较
- 对于最佳匹配实体,达到**亚厘米精度(sub-centimeter accuracy)**,并实现丰富的**多模态发育分析(multimodal analysis of infant development)** 和自动化行为标注
- 为**机器人学**、**发育科学(developmental science)** 和**神经发育障碍早期检测(early detection of neurodevelopmental disorders)** 提供了新工具
- 提供观察婴儿**感知运动体验(sensorimotor experience)** 的独特窗口,促进发育研究
- 开源代码(GitHub)促进复现与后续研究,推动**认知发育机器人(cognitive developmental robotics)** 领域发展