一种多模态意图逆向主动融合的人机交互方法

    公开(公告)号:CN112099630B

    公开(公告)日:2024-04-05

    申请号:CN202010958262.4

    申请日:2020-09-11

    Applicant: 济南大学

    Abstract: 本发明公开一种多模态意图逆向主动融合的人机交互方法,包括:获取环境数据、用户的手势数据以及用户的语音数据;对所述环境数据进行场景感知获取环境信息,对所述手势数据进行手势信息提取获取手势意图,对所述语音数据进行语音信息提取获取语音意图;进行对环境信息、手势意图以及语音意图进行多模态意图提取获取融合意图;对所述融合意图进行信任度评价获取目标融合意图;按所述目标融合意图进行交互反馈。本发明融合意图结合环境时刻、手势数据、语音数据多模态提取而获得,使得意图识别更加准确;能够避免老年人因健忘而重复某一意图;通过主动问询的方式确认发生概率较低的融合意图是否用户本意,获取反映用户本意的目标融合意图。

    一种基于多尺度拆分注意力机制的目标检测方法

    公开(公告)号:CN116434039A

    公开(公告)日:2023-07-14

    申请号:CN202310685594.3

    申请日:2023-06-12

    Applicant: 济南大学

    Abstract: 本申请实施例提供了一种基于多尺度拆分注意力机制的目标检测方法,涉及视觉技术领域。用于实现多尺度注意力融合和增强,提升目标检测的准确性。所述方法包括:获取多个通道数相同的输入尺度,对每个尺度进行拆分注意力操作,进行特征增强,同时获取每个尺度单独的通道特征信息,融合得到全局通道特征信息,然后经过注意力提取获取全局通道注意力,然后分别增强单个尺度输出的增强特征信息,使得单个输出尺度不仅包含自身的增强特征信息,更包含其他相关联特征尺度的特征信息,从而达到多尺度信息融和增强的效果。

    一种面向老年陪护机器人的意图理解方法和系统

    公开(公告)号:CN112101219B

    公开(公告)日:2022-11-04

    申请号:CN202010970662.7

    申请日:2020-09-15

    Applicant: 济南大学

    Abstract: 本发明提出了一种面向老年陪护机器人的意图理解方法和系统,该方法包括:实时获取老年人的手势图像和姿态信息,对手势图像和姿态信息均进行图像分割分别形成手势数据集和姿态数据集;将手势数据集输入训练好的神经网络模型进行手势识别得到手势识别概率集、将姿态数据集输入训练好的隐马尔可夫模型进行姿态识别得到姿态识别概率集;基于混淆矩阵的融合算法将手势识别概率集和姿态识别概率集进行意图融合,在不同意图分类下,采用F1分数计算两个概率集融合时不同意图下的权重占比;进而确定出最终识别意图。基于该方法,还提出了意图理解系统。本发明提高了老年陪护机器人系统的意图理解率,以及老年人对于社交陪护机器人的使用满足感。

    一种具有认知能力的智能交互手套

    公开(公告)号:CN110262664B

    公开(公告)日:2022-05-17

    申请号:CN201910543154.8

    申请日:2019-06-21

    Applicant: 济南大学

    Abstract: 本发明提出了一种具有认知能力的智能交互手套,包括多模态感知模块、多模态认知模块和多模态交互模块;多模态感知模块用于对获取的传感器数据和语音信息进行双通道的多模态融合;多模态认知模块对多模态融合后,采用姿态传感器和弯曲度传感器相配合获取用户手部姿态对用户行为感知、采用压力传感器对用户抓取物体的压力感知;以及测量距离目标物体的长度的距离、识别出用户所抓握物体的具体信息、对用户操作物体和操作行为进行识别、并且可以使手套获取正确的弯曲度数据、给予用户振动反馈。通过本发明,采用虚实融合的交互方式增加了学生的实验操作感,使学生能够对实验过程与现象进行更好的理解与记忆。

    一种基于知识图谱的社区演化分析方法及装置

    公开(公告)号:CN110019845B

    公开(公告)日:2021-04-09

    申请号:CN201910303799.4

    申请日:2019-04-16

    Applicant: 济南大学

    Abstract: 本公开公开了一种基于知识图谱的社区演化分析方法及装置,该方法包括:调取数据库中某领域特定时间的文献信息,构建待分析关系网络;检测每个时间步的待分析关系网络的社区结构;构建相同无序对比例矩阵计算相似性阈值,根据两个社区的所述相同无序对比例的值与相似性阈值判断两个社区间的相似性;根据社区间的相似性构建社区相似矩阵,进行社区匹配,采用非连续时间步跟踪社区演化依次获得每个社区的演化序列,同时检测社区生命周期中的关键事件,并统计所述关键事件的数量来反映社区的演化状况。

    基于变异系数自动确认簇数量的聚类方法、系统及介质

    公开(公告)号:CN109063769B

    公开(公告)日:2021-04-09

    申请号:CN201810864958.3

    申请日:2018-08-01

    Applicant: 济南大学

    Abstract: 本发明公开了基于变异系数自动确认簇数量的聚类方法、系统及介质,计算数据集中每个数据点的密度值,根据密度值计算密度指数,选择密度指数最大的数据点作为第一个聚类中心;计算每个数据点与当前已有聚类中心之间的最短距离,然后根据最短距离计算每个数据点被选为聚类中心的概率,按照轮盘法预选聚类中心;直至选择出设定个聚类中心,根据选择出的初始聚类中心进行k‑means聚类从而产生相应个数的簇;计算平均簇内变异系数和最小簇间变异系数,然后,计算平均簇内变异系数和最小簇间变异系数的差值,将差值与设定值进行比较,如果差值小于设定值,则将两个簇间变异系数最小的两个簇进行合并;直至差值大于等于设定值,则输出聚类结果。

    一种面向陪护机器人的意图柔性映射方法及装置

    公开(公告)号:CN112149574A

    公开(公告)日:2020-12-29

    申请号:CN202011014566.1

    申请日:2020-09-24

    Applicant: 济南大学

    Abstract: 本发明为了解决现有技术中存在的技术问题,创新提出了一种面向陪护机器人的意图柔性映射方法,通过目标物体检测的方式感知交互情境,利用基于视觉的手势识别技术来进行人机交互,利用用户在使用同一种手势表达不同语义时,由于对不同事物的认知不同而形成的特征差异作为柔性映射的基础,实现了同一交互情境下一种手势到多种语义的映射,摆脱了传统的一种指令对应一种操作的人机交互模式,这样只需要规定少量的手势即可以完成多个功能,本发明还提出了一种面向陪护机器人的意图柔性映射装置,降低了老年人的认知负担,使得对陪护机器人的使用更加的简易、灵活。

    面向嵌入式系统的多值量化深度神经网络压缩方法及系统

    公开(公告)号:CN109523016B

    公开(公告)日:2020-09-01

    申请号:CN201811390683.0

    申请日:2018-11-21

    Applicant: 济南大学

    Inventor: 郭庆北

    Abstract: 本发明公开了面向嵌入式系统的多值量化深度神经网络压缩方法及系统,包括:根据嵌入式系统的可用存储资源确定需要量化的等级M;将卷积神经网络中每一个卷积层的权重划分到M个区间中;根据每一个卷积层的每一个区间大小来约束当前层的权重;重训练被约束的卷积神经网络,更新权重;实现区间移动和区间收缩来更新每一个区间;重复根据每一个卷积层的每一个区间大小来约束各区间的权重,重训练权重被约束的卷积神经网络,更新权重,实现区间移动和区间收缩来更新每一个区间步骤,直到每一个区间聚合,也就是权重共享;权重共享后,继续进行重训练以获得更高的性能。使得压缩后的网络能够部署在嵌入式系统和移动平台上,一方面降低网络的存储空间,另一方面保持网络的识别精度。

    一种面向流程对象的工业过程建模预测方法

    公开(公告)号:CN104732067A

    公开(公告)日:2015-06-24

    申请号:CN201510088090.9

    申请日:2015-02-26

    Applicant: 济南大学

    Abstract: 本发明公开了一种面向流程对象的工业过程建模预测方法,包括如下步骤:FNT模型建立,从流程对象已经生成的数据仓库中抽取工业流程对象原始数据集S,创建FNT模型的初始种群,种群个体数目根据需要定制,每个个体表示一个FNT模型;利用PIPE算法优化FNT模型结构,适应值函数采用均方误差或均方根误差;利用微粒群(PSO)算法优化FNT模型参数;利用FNT模型对流程对象生产过程进行建模预测。本发明基于柔性神经树获取流程对象各测点数据的变化趋势公式,对工业生产过程进行模拟,基于当前生产状态的相关参数预测未来一段时间的生产状态,从而辅助指导企业调整生产流程参数,在微观上引导生产趋利避害。

    基于多模态感知进行实时反馈的虚实融合化学实验平台

    公开(公告)号:CN119516852A

    公开(公告)日:2025-02-25

    申请号:CN202411636115.X

    申请日:2024-11-15

    Applicant: 济南大学

    Abstract: 本发明公开了基于多模态感知进行实时反馈的虚实融合化学实验平台,包括,视频捕获模块,对学生实验过程进行视频采集,捕捉学生使用实验器材的操作过程;目标检测模块,实时检测化学实验过程中涉及到的各种实验器材和化学试剂;HOI检测模块,实验过程中,识别学生与实验器材之间的交互行为,判断其是否与预设实验步骤中的关键点对齐;反馈模块,依据目标检测与HOI检测的检测结果,判断学生实验过程操作的正确性,面对错误的操作可实时进行反馈提示;通过视频捕获模块在学生独立进行化学实验操作时能够将其实验过程进行视频采集,依据设定的实验步骤中的关键节点经由目标检测模块和HOI检测模块的结果与这些节点进行对比,判断学生的操作是否正确。

Patent Agency Ranking