基于双目视觉的智能消防机器人灭火方法、设备及介质

    公开(公告)号:CN118807162B

    公开(公告)日:2025-01-03

    申请号:CN202411297500.6

    申请日:2024-09-18

    Abstract: 本发明公开一种基于双目视觉的智能消防机器人自动灭火方法,属消防机器人自动灭火领域,包括:步骤1,火焰检测:灭火时,用目标检测模型检测智能消防机器人的双目相机获取包含火焰的彩色双目图像,确定火焰三维位置;步骤2,计算水炮偏航角:依据智能消防机器人与火焰的三维位置关系,计算水炮偏航角,使水炮指向火焰;步骤3,调整水炮俯仰角:用基于匹配代价的深度双目匹配网络测量水炮射流轨迹,以水炮射流轨迹与火焰位置差距为反馈,调整水炮俯仰角,使水炮射流不断接近火焰;步骤4,灭火命中判断:当获取的热成像图像中火焰面积持续减小,确认射流命中火焰,保持水炮角度,使射流持续输送灭火介质,直至火焰面积为零,结束本次灭火任务。

    弱对齐条件下的消防机器人多模态视觉火焰检测方法

    公开(公告)号:CN113792684B

    公开(公告)日:2024-03-29

    申请号:CN202111095343.7

    申请日:2021-09-17

    Abstract: 本发明公开了一种弱对齐条件下的消防机器人多模态视觉火焰检测方法,设计了并行的可见光火焰检测网络与热成像火焰检测网络,利用可见光火焰检测网络输出的可见光检测框信息投影到热成像图像中,并使用一个近邻采样模块在其中心处生成一系列样本检测框。相较于传统的RPN的遍历式采样,本发明仅在一个较小的范围内采样,使用热成像网络的分类器与回归器对检测框修正后,可以在热成像图像中得到精确的检测框。同时,为了解决弱对齐情况下的多模态信息融合问题,提出注意力引导模块融合可见光图像与热成像图像的信息,通过热成像特征图生成的注意力与跨模态检测框信息,以区域对应的方式优化可见光特征图,达到增加火焰检测准确度,降低误报率的效果。

    基于迁移学习的智能消防机器人灭火方法、设备及介质

    公开(公告)号:CN118477277B

    公开(公告)日:2024-09-27

    申请号:CN202410944799.3

    申请日:2024-07-15

    Abstract: 本发明公开一种基于迁移学习的智能消防机器人灭火方法、设备及介质,方法包括:步骤1,在虚拟环境中搭建射流灭火场景,模拟射流与火焰;步骤2,在现实环境中用智能消防机器人采集预定数量的现实射流图像,并在虚拟环境中用虚拟相机采集虚拟射流图像;步骤3,计算现实射流图像与虚拟射流图像间的形状相似度,得到匹配的虚拟‑现实射流图像;步骤4,训练生成对抗网络:用匹配的虚拟‑现实射流图像训练生成对抗网络;步骤5,在虚拟环境中构建并训练强化学习智能体,训练中用生成对抗网络,将观测到的虚拟射流图像转换成现实射流图像;步骤6,将虚拟环境中训练好的智能体迁移到现实的智能消防机器人中,控制它与现实环境交互完成自动灭火任务。

    基于迁移学习的智能消防机器人灭火方法、设备及介质

    公开(公告)号:CN118477277A

    公开(公告)日:2024-08-13

    申请号:CN202410944799.3

    申请日:2024-07-15

    Abstract: 本发明公开一种基于迁移学习的智能消防机器人灭火方法、设备及介质,方法包括:步骤1,在虚拟环境中搭建射流灭火场景,模拟射流与火焰;步骤2,在现实环境中用智能消防机器人采集预定数量的现实射流图像,并在虚拟环境中用虚拟相机采集虚拟射流图像;步骤3,计算现实射流图像与虚拟射流图像间的形状相似度,得到匹配的虚拟‑现实射流图像;步骤4,训练生成对抗网络:用匹配的虚拟‑现实射流图像训练生成对抗网络;步骤5,在虚拟环境中构建并训练强化学习智能体,训练中用生成对抗网络,将观测到的虚拟射流图像转换成现实射流图像;步骤6,将虚拟环境中训练好的智能体迁移到现实的智能消防机器人中,控制它与现实环境交互完成自动灭火任务。

    弱对齐条件下的消防机器人多模态视觉火焰检测方法

    公开(公告)号:CN113792684A

    公开(公告)日:2021-12-14

    申请号:CN202111095343.7

    申请日:2021-09-17

    Abstract: 本发明公开了一种弱对齐条件下的消防机器人多模态视觉火焰检测方法,设计了并行的可见光火焰检测网络与热成像火焰检测网络,利用可见光火焰检测网络输出的可见光检测框信息投影到热成像图像中,并使用一个近邻采样模块在其中心处生成一系列样本检测框。相较于传统的RPN的遍历式采样,本发明仅在一个较小的范围内采样,使用热成像网络的分类器与回归器对检测框修正后,可以在热成像图像中得到精确的检测框。同时,为了解决弱对齐情况下的多模态信息融合问题,提出注意力引导模块融合可见光图像与热成像图像的信息,通过热成像特征图生成的注意力与跨模态检测框信息,以区域对应的方式优化可见光特征图,达到增加火焰检测准确度,降低误报率的效果。

    基于双目视觉的智能消防机器人灭火方法、设备及介质

    公开(公告)号:CN118807162A

    公开(公告)日:2024-10-22

    申请号:CN202411297500.6

    申请日:2024-09-18

    Abstract: 本发明公开一种基于双目视觉的智能消防机器人自动灭火方法,属消防机器人自动灭火领域,包括:步骤1,火焰检测:灭火时,用目标检测模型检测智能消防机器人的双目相机获取包含火焰的彩色双目图像,确定火焰三维位置;步骤2,计算水炮偏航角:依据智能消防机器人与火焰的三维位置关系,计算水炮偏航角,使水炮指向火焰;步骤3,调整水炮俯仰角:用基于匹配代价的深度双目匹配网络测量水炮射流轨迹,以水炮射流轨迹与火焰位置差距为反馈,调整水炮俯仰角,使水炮射流不断接近火焰;步骤4,灭火命中判断:当获取的热成像图像中火焰面积持续减小,确认射流命中火焰,保持水炮角度,使射流持续输送灭火介质,直至火焰面积为零,结束本次灭火任务。

Patent Agency Ranking