发明公开
- 专利标题: 一种基于单视角RGBD融合网络的手物交互重建方法
-
申请号: CN202410368408.8申请日: 2024-03-28
-
公开(公告)号: CN118071934A公开(公告)日: 2024-05-24
- 发明人: 王志鹏 , 马家骏 , 何斌 , 周艳敏 , 蒋烁
- 申请人: 同济大学
- 申请人地址: 上海市杨浦区四平路1239号
- 专利权人: 同济大学
- 当前专利权人: 同济大学
- 当前专利权人地址: 上海市杨浦区四平路1239号
- 代理机构: 上海科盛知识产权代理有限公司
- 代理商 严玉丹
- 主分类号: G06T17/00
- IPC分类号: G06T17/00 ; G06V10/80 ; G06N3/0464 ; G06N3/0455
摘要:
本发明涉及一种基于单视角RGBD融合网络的手物交互重建方法,步骤包括:将手物交互的对齐RGBD图像的深度图转化为点云,并应用特征编码器从中提取RGB特征和点特征;融合所提取的RGB特征和点特征,生成密集RGBD特征;采用SDF特征编码器将密集RGBD特征生成手物形状编码,通过手物几何特征估计模块预测手物的姿态参数和物体位置;通过几何傅里叶特征编码模块处理基于每个三维查询点相对于手腕的旋转和平移以及物体的平移,获得手物几何编码;采用手和物体SDF解码器利用手物形状编码和手物几何编码估计每个三维查询点的SDF重建手和物体形状。与现有技术相比,本发明更充分融合了RGB和深度信息,实现了几何精细的手物交互重建。
IPC分类:
G | 物理 |
G06 | 计算;推算或计数 |
G06T | 一般的图像数据处理或产生 |
G06T17/00 | 用于计算机制图的3D建模 |