公开(公告)号：CN118456455A

公开(公告)日：2024-08-09

申请号：CN202410924776.6

申请日：2024-07-11

Applicant: 吉林大学

Inventor： 徐昊 ,  刘振冲 ,  谷雪 ,  刘志强 ,  石立达

IPC: B25J9/16 ,  G06V20/56 ,  G06V20/64 ,  G06V10/26 ,  G06V10/762 ,  G06N3/008

Abstract: 本发明公开了一种基于多模态大模型的家务助理机器人，属于机器人控制、自然语言处理、计算机视觉的交叉领域，包括：静态场景处理模块、动作模块和控制模块；静态场景处理模块用于扫描工作环境，并对工作环境进行3D建模；动作模块用于实现机器人的水平方向的运动，以及对物体的交互动作；控制模块用于控制动作模块的动作，并基于多模态大模型LLaVa‑13B构建监督模型，基于监督模型对动作进行评价，再基于评价结果对动作进行调整。本发明的机器人对家用场景的泛化能力更强，比如家用场景中对特定物体的捡取、擦拭清洁、整理等任务高效的执行，在积累特定任务数据后，扩展机器人的能力，极大的提高用户的生活幸福指数。

公开(公告)号：CN118456455B

公开(公告)日：2024-11-15

申请号：CN202410924776.6

申请日：2024-07-11

Applicant: 吉林大学

Inventor： 徐昊 ,  刘振冲 ,  谷雪 ,  刘志强 ,  石立达

IPC: B25J9/16 ,  G06V20/56 ,  G06V20/64 ,  G06V10/26 ,  G06V10/762 ,  G06N3/008

Abstract: 本发明公开了一种基于多模态大模型的家务助理机器人，属于机器人控制、自然语言处理、计算机视觉的交叉领域，包括：静态场景处理模块、动作模块和控制模块；静态场景处理模块用于扫描工作环境，并对工作环境进行3D建模；动作模块用于实现机器人的水平方向的运动，以及对物体的交互动作；控制模块用于控制动作模块的动作，并基于多模态大模型LLaVa‑13B构建监督模型，基于监督模型对动作进行评价，再基于评价结果对动作进行调整。本发明的机器人对家用场景的泛化能力更强，比如家用场景中对特定物体的捡取、擦拭清洁、整理等任务高效的执行，在积累特定任务数据后，扩展机器人的能力，极大的提高用户的生活幸福指数。