一种融入多模态视觉信息的学习意图监测方法及系统

    公开(公告)号:CN113723277B

    公开(公告)日:2024-02-27

    申请号:CN202110998162.9

    申请日:2021-08-27

    Abstract: 本发明公开了一种融入多模态视觉信息的学习意图监测方法及系统。该方法包括步骤:分别采集学习者的红外图像数据和可见光图像数据;分别对所述红外图像数据和所述可见光图像数据进行预处理;将预处理后的所述红外图像数据和所述可见光图像数据输入到人脸检测器;将人脸检测器的输出数据输入到图像融合模型;将所述图像融合模块的输出数据输入到头部姿态识别模型,获取头部姿态识别数据,根据所述头部姿态识别数据判断学习者的学习意图。本发明可以实现不同模态的信息互补,提高光照变化或复杂背景下的头部姿态识别精准度,从而提高学(56)对比文件张鸿宇;刘威;许炜;王辉.基于深度图像的多学习者姿态识别.计算机科学.2015,(第09期),第1-3节.路远;李彦敏.基于RealSense的在线课堂注意力评测系统设计.中国医学教育技术.2020,(第03期),全文.赵云丰;尹怡欣.基于决策融合的红外与可见光图像人脸识别研究.激光与红外.2008,(第06期),全文.Fangcen Liu etc.Infrared and VisibleCross-Modal Image Retrieval ThroughShared Features《. IEEE Transactions onCircuits and Systems for Video Technology》.2021,第31卷(第11期),全文.

    一种基于表情识别的风险学生预测方法

    公开(公告)号:CN113792627A

    公开(公告)日:2021-12-14

    申请号:CN202111002632.8

    申请日:2021-08-30

    Abstract: 本发明公开了一种基于表情识别的风险学生预测方法,该方法包括以下步骤:1)将输入的学生人脸图像转为张量,将这些张量按比例分为训练集和测试集;2)训练基于表情识别风险学生的学习模型,构造分为消极表情和非消极表情的二维高斯软标签,将训练集张量输入基于标签分布的学习模型,利用预测标签和真实标签之间的KL‑loss来训练学习模型;3)将测试集张量输入训练好的学习模型中进行特征提取和表情识别,将识别的结果存储到学生情绪库;4)根据学生的表情识别的结果分析学生的情绪状态,判断该学生是否为风险学生。本发明设计了新的学习模型并将表情分为积极表情和消极表情利用二维标签来进行表情识别,提升了识别准确性,可有效预测风险学生。

    一种面向教育机器人视觉理解的头部姿态估计方法及系统

    公开(公告)号:CN113705440A

    公开(公告)日:2021-11-26

    申请号:CN202110994920.X

    申请日:2021-08-27

    Abstract: 本发明公开了一种面向教育机器人视觉理解的头部姿态估计方法及系统。该方法包括步骤:分别获取不同时刻的教育机器人采集的学习者的头部姿态的3D点云数据和红外图像数据;分别对不同时刻的所述3D点云数据和所述红外图像数据进行预处理;分别将预处理后的不同时刻的所述3D点云数据和所述红外图像数据输入到训练好的头部姿态识别模型,获取不同时刻的头部姿态识别结果;根据不同时刻的头部姿态识别结果的变化,确定学习者的动作指令,根据所述动作指令生成所述教育机器人的控制指令。本发明可以使教育机器人准确理解学习者的意图,促进精准化教学和个性化学习。

    一种融入教学反馈与习得理解的知识图谱构建方法

    公开(公告)号:CN113807519B

    公开(公告)日:2024-08-20

    申请号:CN202111002385.1

    申请日:2021-08-30

    Abstract: 本发明公开了一种融入教学反馈与习得理解的知识图谱构建方法,该方法包括以下步骤:1)数据获取:将课堂学生行为转换为描述学生对当前知识的理解程度的文本;2)命名实体识别和关系抽取,对课堂文本数据同时做实体识别和关系抽取得到一个有关系的实体三元组;3)将实体和关系嵌入通过带权图卷积网络汇聚邻居节点的信息学习到实体和关系更加丰富的语意表示形成最终的实体嵌入表示;4)通过多尺度卷积神经网络对知识图谱三元组中的备选尾实体评分,选取评分最高尾实体作为推理结果,进一步推理出隐含的知识,对知识图谱进行更新;所述备选尾实体为步骤3)中所更新的所有实体。本发明能够构建每个学生特定的知识图谱,进行学习和教学评价反馈。

    一种基于学习成长数据的学习风格画像生成方法及系统

    公开(公告)号:CN113704610B

    公开(公告)日:2024-03-05

    申请号:CN202110994227.2

    申请日:2021-08-27

    Abstract: 本发明公开了一种基于学习成长数据的学习风格画像生成方法及系统。该方法包括步骤:收集学习成长数据,所述学习成长数据包括从多个数据源获取的用户属性数据和多维用户行为数据;将所述学习成长数据进行表征化处理,获得用户行为表征矩阵;将所述用户行为表征矩阵输入到预训练得到的用户特征提取模型中,所述用户特征提取模型基于神经网络,并用于输出用户行为特征向量矩阵;将所述用户行为特征向量矩阵与学习特征向量相乘,将相乘得到的矩阵作为用户学习风格画像。本发明可以利用多个数据源获取的多维用户行为数据,提升学习者画像的准确性和全面性,驱动教育决策科学化、学习方(56)对比文件Kun Liang.Online Behavior Analysis-Based Student Profile for Intelligent E-Learning.Journal of Electrical andComputer Engineering.2017,第2017卷1-8.彭利园.基于在线学习平台的资源画像及推荐研究方法——以云课堂为例.中国优秀硕士学位论文数据库 社会科学II辑.2021,(第002期),第4章第4.1节.师亚飞;彭红超;童名文.基于学习画像的精准个性化学习路径生成性推荐策略研究.中国电化教育.2019,(05),全文.

    一种基于学习成长数据的学习风格画像生成方法及系统

    公开(公告)号:CN113704610A

    公开(公告)日:2021-11-26

    申请号:CN202110994227.2

    申请日:2021-08-27

    Abstract: 本发明公开了一种基于学习成长数据的学习风格画像生成方法及系统。该方法包括步骤:收集学习成长数据,所述学习成长数据包括从多个数据源获取的用户属性数据和多维用户行为数据;将所述学习成长数据进行表征化处理,获得用户行为表征矩阵;将所述用户行为表征矩阵输入到预训练得到的用户特征提取模型中,所述用户特征提取模型基于神经网络,并用于输出用户行为特征向量矩阵;将所述用户行为特征向量矩阵与学习特征向量相乘,将相乘得到的矩阵作为用户学习风格画像。本发明可以利用多个数据源获取的多维用户行为数据,提升学习者画像的准确性和全面性,驱动教育决策科学化、学习方式个性化、教学管理人性化和评价体系全面化。

    一种基于表情识别的风险学生预测方法

    公开(公告)号:CN113792627B

    公开(公告)日:2023-11-07

    申请号:CN202111002632.8

    申请日:2021-08-30

    Abstract: 本发明公开了一种基于表情识别的风险学生预测方法,该方法包括以下步骤:1)将输入的学生人脸图像转为张量,将这些张量按比例分为训练集和测试集;2)训练基于表情识别风险学生的学习模型,构造分为消极表情和非消极表情的二维高斯软标签,将训练集张量输入基于标签分布的学习模型,利用预测标签和真实标签之间的KL‑loss来训练学习模型;3)将测试集张量输入训练好的学习模型中进行特征提取和表情识别,将识别的结果存储到学生情绪库;4)根据学生的表情识别的结果分析学生的情绪状态,判断该学生是否为风险学生。本发明设计了新的学习模型并将表情分为积极表情和消极表情利用二维标签来进行表情识别,提升了识别准确性,可有效预测风险学生。

    一种基于教师非言语行为的教学过程评价方法

    公开(公告)号:CN113792626B

    公开(公告)日:2024-08-27

    申请号:CN202111002386.6

    申请日:2021-08-30

    Abstract: 本发明公开了一种基于教师非言语行为的教学过程评价方法,包括以下步骤:1)非言语行为数据采集,获取教学课堂中教师的非言语行为数据;2)采用行为特征矩阵对教师教学非言语行为进行全方位表征量化;3)行为特征分类器训练:使用情绪标签训练分类器,得到相应教师类人格型特征表征、课堂非言语行为特征表征;4)根据某一特定教师非言语行为采集数据,进行特征表征和特征分解,得到教师本身的特征表征和课堂行为特征表征,并将两者的特征向量相乘,得到教师的教学评价表示。本发明通过情绪、身势、生理信号三种模态数据,建立全面、精准的教师课堂非言语行为的刻画,建立了基于教师非言语行为的教学过程的定量评价框架。

Patent Agency Ranking