基于关键点预测网络的无序混叠工件抓取方法和系统

    公开(公告)号:CN113580149A

    公开(公告)日:2021-11-02

    申请号:CN202111156483.0

    申请日:2021-09-30

    Applicant: 湖南大学

    Abstract: 本发明公开了一种基于关键点预测网络的无序混叠工件抓取方法和系统,输入一张实时RGB图像,通过预设的关键点预测网络模型可以分割出每个工件的位置并预测其关键点位置,从而获得关键点在图像中的像素坐标,结合关键点在工件模型坐标系下的3D坐标以及相机内参,解算工件模型坐标系到相机坐标系之间的转换关系,再结合手眼标定获得相机坐标系到机器人坐标系之间的转换关系,进而求解得到机器人坐标系下工件的6DoF位置及位姿信息。该方法能够在关键点被遮挡的情况下通过投票预测出最可能代表关键点的像素位置,解决了工件混叠情况下关键点被遮挡的位姿计算难题,使机器人能够实现更加复杂场景下的工件拾取功能,有效提高拾取成功率。

    一种旋翼作业飞行机器人目标跟踪方法及系统

    公开(公告)号:CN111310631A

    公开(公告)日:2020-06-19

    申请号:CN202010084629.4

    申请日:2020-02-10

    Applicant: 湖南大学

    Abstract: 本发明属于视觉目标跟踪技术领域,公开了一种旋翼作业飞行机器人目标跟踪方法及系统,以Siamfc框架为基础,通过偏移量学习,引入Resnet50作为特征提取网络,使网络学习到更多语义信息,应对目标外观变化;跟踪网络在分类判别器的基础上新增一个目标尺度估计模块,可预测目标边界框与目标真实框的IOU,准确的对目标边界框进行预测,并通过反向梯度对边界框进行迭代修正,使网络能准确的对目标的尺度变化进行预测;利用Resnet50多层特征输出,采用残差融合的策略,对网络不同层的输出进行融合,进一步提升算法的鲁棒性,提高网络性能,并保障了网络对小目标的判别能力,最终实现对目标的准确跟踪。

    一种基于机器视觉检测的高速铁路轨道表面缺陷匹配方法

    公开(公告)号:CN103913464B

    公开(公告)日:2016-01-20

    申请号:CN201410104025.6

    申请日:2014-03-20

    Applicant: 湖南大学

    Abstract: 本发明公开了一种基于机器视觉检测的高速铁路轨道表面缺陷匹配方法,包括步骤1:获取铁轨全景图像f(x,y);步骤2:采用竖直投影法从铁轨全景图像中提取铁轨表面区域图像f1(x,y);步骤3:对铁轨表面区域图像进行中值滤波处理,获得去除噪声的铁轨表面区域图像f2(x,y);步骤4:对铁轨表面区域图像进行图像预处理;步骤5:提取图像f4(x,y)中的缺陷特征信息;步骤6:分别获得历史采集图像中的缺陷特征信息和实时采集图像中的缺陷特征信息;步骤7:将实时获取缺陷的特征信息依次与所有的已存储缺陷的特征信息进行匹配计算,得到匹配的缺陷特征信息。该发明方法实现了铁轨表面缺陷的高速、高精度匹配。

    医药检测机器人中基于序列图像时域特征的杂质检测方法

    公开(公告)号:CN103942792B

    公开(公告)日:2015-05-20

    申请号:CN201410150949.X

    申请日:2014-04-15

    Applicant: 湖南大学

    Abstract: 本发明公开了一种医药检测机器人中基于序列图像时域特征的杂质检测方法,根据序列图像像素的时域特征,将亮背景区域特征和暗背景区域特征映射到同一特征空间,消除亮背景与暗背景之间的差别,并通过神经网络对目标与背景进行分类,实现目标与背景的分割,根据异物特征运动轨迹,检测出异物。有效解决序列帧差法无法解决的亮背景、暗背景图像分割问题,异物检测漏检率、误检率更低;该发明方法相比现有序列差分方法,速度更快,且不受序列帧数目的影响,尤其在20帧以上的序列图像处理过程中,效果更明显;采用BP神经网络,通过样本学习的方法,自动建立分类标准,增强了复杂背景的适应能力,满足更多样本特征的有效提取。

    一种基于特征分离的大基线图像配准方法及系统

    公开(公告)号:CN119359778A

    公开(公告)日:2025-01-24

    申请号:CN202411944424.3

    申请日:2024-12-27

    Applicant: 湖南大学

    Abstract: 本发明公开了一种基于特征分离的大基线图像配准方法及系统,以预设的重叠率对电路板进行图像采集,得到若干张电路板局部图像,对若干张电路板局部图像进行畸变矫正,将畸变矫正后的电路板局部图像组成图像对并构建训练集,搭建图像配准网络,使用训练集对图像配准网络进行训练并计算重构损失,得到训练后的图像配准网络,获取真实场景下待配准的大基线图像,将待配准的大基线图像进行畸变矫正后组成图像对输入至训练后的图像配准网络处理,输出真实场景下待配准的大基线图像对的图像变换矩阵,根据图像变换矩阵实现真实场景下待配准大基线图像对的配准。该方法能够在实际的工业应用中显著提高图像配准的精度、效率和稳定性。

    一种基于迭代优化的多模态图像配准方法及系统

    公开(公告)号:CN118799369B

    公开(公告)日:2024-11-15

    申请号:CN202411288067.X

    申请日:2024-09-14

    Applicant: 湖南大学

    Abstract: 本发明公开了一种基于迭代优化的多模态图像配准方法及系统,获取若干张低光照图像并处理,得到训练集和验证集,搭建多模态图像配准神经网络模型,通过训练集对多模态图像配准神经网络模型进行训练,并使用损失函数计算损失,得到训练后的多模态图像配准神经网络模型,使用验证集对训练后的多模态图像配准神经网络模型进行迭代优化并判断是否满足迭代终止条件,得到迭代优化后的多模态图像配准神经网络模型,获取真实场景下的多模态图像并组成待配准图像对,将待配准图像对输入迭代优化后的多模态图像配准神经网络模型处理,得到配准融合后的图像。该方法可提高参考图像和待匹配图像组成的图像对在配准过程中的鲁棒性。

    一种多模态分层融合的人机交互方法和系统

    公开(公告)号:CN114637404B

    公开(公告)日:2024-09-06

    申请号:CN202210312681.X

    申请日:2022-03-28

    Applicant: 湖南大学

    Abstract: 本发明公开了一种多模态分层融合的人机交互方法和系统,包括使用单目相机和麦克风对人体交互动作和语音进行视频采集,从得到的视频中提取得到视频数据和语音数据;将语音数据送入语音识别模块得到语音识别结果;将视频数据送入已训练好的骨骼提取网络得到人体骨骼序列图像和手部骨骼序列图像;将人体骨骼序列图像送入动作识别模块得到动作识别结果;将手部骨骼序列图像送入手势识别模块得到手势识别结果;将语音识别结果、动作识别结果和手势识别结果送入融合决策模块,得到综合控制指令,将综合控制指令发送至无人系统终端进行运动控制。系统硬件平台简易、交互效果好并且实时性高稳定性强。系统硬件平台简易、交互效果好并且实时性高稳定性强。

    一种基于熵增优化的大型复杂构件点云全局匹配方法

    公开(公告)号:CN114529703B

    公开(公告)日:2024-09-06

    申请号:CN202210192372.3

    申请日:2022-02-28

    Applicant: 湖南大学

    Abstract: 本发明公开了一种基于熵增优化的大型复杂构件点云全局匹配方法,包括获取相邻视角场景的三维点云坐标,获得源点云X与目标点云Y,对其下采样分别得到采样点云x与采样点云y;基于采样点云x与采样点云y构建物理能量模型;基于熵增定律,根据物理能量模型计算对采样点云x的当前运动的扭矩T和拉力S,根据扭矩T和拉力S计算当前施加的旋转及平移(Rk,tk),获得变换后的点集;计算当前采样点云x在引力场中的势能并记录当前迭代次数;根据势能或迭代次数确定满足预设的结束条件时,累计所有变换后的点集,对源点云X进行旋转平移,实现源点云X与目标点云Y之间的配准。提高了配准精度与鲁棒性,降低方法的失败率。

    一种融合RGB-D视觉特征的目标位姿估计方法

    公开(公告)号:CN112270249B

    公开(公告)日:2024-01-23

    申请号:CN202011152483.9

    申请日:2020-10-26

    Applicant: 湖南大学

    Abstract: 本发明提供了一种融合RGB‑D视觉特征的目标位姿估计方法。所述融合RGB‑D视觉特征的目标位姿估计方法包括如下步骤:获取包含目标物体的RGB图像和深度图像;将RGB图像输入至主干网络进行RGB特征提取和实例分割,获得多通道卷积特征图像和目标物体分割掩码;利用目标分割掩码裁剪多通道卷积特征图像和深度图像,得到每个目标物体的图像卷积特征块和深度图像块;对目标物体任意尺寸的图像卷积特征块进行空间金字塔池化,得到规范大小的目标RGB特征向量;从深度图像块获取目标物体点云,并提取点云特征,获得点云特征向量;融合目标的RGB特征和点云特征,进行目标位置估计和姿态估计,输出每个对应目标的类别和位姿P。本发明目标位姿估计精度高、过程简便。

    一种基于云平台的无序工件抓取方法及其系统

    公开(公告)号:CN114714365B

    公开(公告)日:2022-08-23

    申请号:CN202210641069.7

    申请日:2022-06-08

    Applicant: 湖南大学

    Abstract: 本发明具体公开了一种基于云平台的无序工件抓取方法及其系统,所述方法包括:搭建硬件系统和云平台;图像采集装置标定获取内参;手眼标定与拾取装置标定;利用预设训练好的实例分割模型获取目标工件的点云信息;将目标工件的点云信息与预设实例模板的点云信息进行ICP配准;算机器人基座坐标系与目标工件坐标系之间的转换矩阵,进而得到目标工件的位姿信息;基于目标工件的位姿信息,通过服务器控制机器人系统对目标工件进行抓取,进而完成目标工件的上料工作。本发明能够有效解决工业场景复杂、存在堆叠现象且采集图像边缘与纹理信息不明显所造成位姿获取难度高的问题。

Patent Agency Ranking