-
公开(公告)号:CN117668545A
公开(公告)日:2024-03-08
申请号:CN202311625312.7
申请日:2023-11-30
Applicant: 杭州电子科技大学
IPC: G06F18/214 , G06F18/241 , G06F18/213 , G06N3/0464 , G06N3/09 , G06V40/16
Abstract: 本发明公开一种基于脑机增强智能的半监督面部情绪识别方法。鉴于脑电信号包含大脑活动的情感信息和诱发其产生的视觉对象的视觉信息,本发明将其作为监督信息来实现面部情绪图像的标记,从而将大脑感知情绪的能力转移给机器。本发明将脑电信号的呈现方式从二维转变为三维,设计了EEGNet3D。其次,利用由视觉图像刺激诱发的脑电信号与脑电网络相结合,学习大脑活动的判别性脑电类表征流形。然后,通过训练视觉模型将图像投射到学习到的流形上,计算图像特征与脑电类表征之间的相似性分数来获取无标签图像的伪标签。最后,利用伪标签图像扩展训练集,训练分类模型。由此将大脑的情感判断的能力传递给机器,进而实现半监督面部情绪识别。
-
公开(公告)号:CN117636490A
公开(公告)日:2024-03-01
申请号:CN202311817342.8
申请日:2023-12-27
Applicant: 杭州电子科技大学
IPC: G06V40/70 , G06V40/16 , G06V10/764 , G06V10/774 , G06V10/82 , G06N3/096 , G06N3/0464
Abstract: 本发明公开一种基于脑机知识蒸馏的面部表情识别方法。深度学习存在许多基本的未决问题。其中一个问题是大型模型的提出,它可以提高性能,但计算成本较高。第二个问题是,收集和标记大型数据集通常是一项成本高昂的工作。与机器不同的是,由于一般原理和认知过程,人脑可以从有限的样本中高效地获得情绪分类所需的信息。为了赋予机器人脑判断情绪的能力,使其具有接近人脑的情绪识别模式,本发明提供一种“基于脑机知识蒸馏的面部表情识别方法“,以提炼人脑知识并将其传递给机器。脑机知识蒸馏框架由教师模型和学生模型组成。教师模型从视觉图像刺激诱发的脑电信号中提炼知识。学生模型处理视觉图像,同时从教师模型中学习认知知识。
-
公开(公告)号:CN112612936B
公开(公告)日:2022-03-08
申请号:CN202011581373.4
申请日:2020-12-28
Applicant: 杭州电子科技大学
IPC: G06F16/906 , G06K9/62 , G06N3/04 , G06N3/08
Abstract: 本发明公开一种基于对偶转换网络的多模态情感分类方法。本发明结合对偶学习机制以及自注意力机制,在将一个模态转换为另一个模态的过程中,挖掘模态对之间具有方向性的长时交互的跨模态融合信息。同时,对偶学习技术能够增强模型的鲁棒性,因此能很好地应对多模态学习中存在的固有问题——模态数据缺失问题。其次,在此基础上构建的分层融合框架,将所有具有同一个源模态的跨模态融合信息拼接在一块,从而采用一维卷积层进行融合操作,能够进一步挖掘多模态信息之间的高层次互补信息,是对当前情感识别领域的多模态融合框架的有效补充。
-
公开(公告)号:CN116597824B
公开(公告)日:2025-05-16
申请号:CN202310580969.X
申请日:2023-05-19
Applicant: 杭州电子科技大学
Abstract: 本发明公开一种基于注意力引导张量网络的想象语音分类方法及系统。获取意念想象语音脑电数据,以及其对应的标签label;对上述意念想象语音脑电数据进行数据增强,构建训练数据集;构建注意力引导张量网络,利用数据集中的数据增强后训练集进行训练,并采用数据集中未增强的测试集进行测试;利用训练并验证好的注意力引导张量网络实现脑电的想象语音分类。本发明方法将数据增强以及注意力机制的分类标识位引导的张量网络技术结合起来,实现高精度的想象语音脑电分类性能。
-
公开(公告)号:CN117992729A
公开(公告)日:2024-05-07
申请号:CN202410087933.2
申请日:2024-01-22
Applicant: 杭州电子科技大学
IPC: G06F18/10 , A61B5/372 , A61B5/00 , G06F18/213 , G06F18/214 , G06F18/22 , G06F18/24 , G06F18/25 , G06N3/0464 , G06N3/048 , G06N3/084
Abstract: 本发明公开一种范式自适应解耦的跨时段脑纹识别方法及其系统。本发明通过特征提取器从原始脑电数据中提取特征表示,从高度耦合的脑电信息中有效地分离出身份相关特征和范式任务相关特征,通过域对抗训练,进一步学习具有身份识别能力的域不变特征。本发明引入三种解耦器对特征提取模块提取的特征进行特征解耦;同时引入三种分类器通过域标签,身份标签,范式任务标签,通过对抗训练的方式,引导解耦器有效地解耦出范式任务特征、身份特征。因此,本发明能在跨时段的条件下自适应各种范式采集而来的脑电信号,在实际应用场景中具有较高的实用价值,为生物特征识别、身份验证等领域提供了创新性的解决方案。
-
公开(公告)号:CN116597824A
公开(公告)日:2023-08-15
申请号:CN202310580969.X
申请日:2023-05-19
Applicant: 杭州电子科技大学
Abstract: 本发明公开一种基于注意力引导张量网络的想象语音分类方法及系统。获取意念想象语音脑电数据,以及其对应的标签label;对上述意念想象语音脑电数据进行数据增强,构建训练数据集;构建注意力引导张量网络,利用数据集中的数据增强后训练集进行训练,并采用数据集中未增强的测试集进行测试;利用训练并验证好的注意力引导张量网络实现脑电的想象语音分类。本发明方法将数据增强以及注意力机制的分类标识位引导的张量网络技术结合起来,实现高精度的想象语音脑电分类性能。
-
公开(公告)号:CN112541541A
公开(公告)日:2021-03-23
申请号:CN202011452285.4
申请日:2020-12-10
Applicant: 杭州电子科技大学
IPC: G06K9/62 , G06F17/16 , G06F40/253 , G06N3/04 , G06N3/08
Abstract: 本发明公开了基于多元素分层深度融合的轻量级多模态情感分析方法;本发明以分层的方式建立多模态元素之间的直接相关性,可以捕获不同模态之间的短时和长时依赖性。为避免降低分辨率并保留与每个模态相对应的原始空间结构信息,在选择和强调多模态信息交互时,本发明以广播的形式应用相应的注意力权重。此外,本发明也提出了一个新的张量算子,称为Ex‑KR加法,以利用共享信息来融合多模态元素信息得到全局张量表征。这是针对当前多模态情感识别领域中大多数方法仅仅关注在局部的时序‑多模态空间中的建模,并且不能明确地学习得到所有参与模态融合的完整的表示形式等问题的有效补充。
-
公开(公告)号:CN111178389A
公开(公告)日:2020-05-19
申请号:CN201911244389.3
申请日:2019-12-06
Applicant: 杭州电子科技大学
Abstract: 本发明涉及基于多通道张量池化的多模态深度分层融合情感分析方法。基于注意力机制方法,可以对多模态数据设定相应权重,划分不同模态数据的重要程度,从而根据不同模态数据对任务的不同贡献程度,在融合部分放大贡献程度大的多模态数据在交互时的作用。而相对于单通道多项式张量池化模块,多通道多项式张量池化模块能够从细粒度层面获得鲁棒性高的局部高维度复杂非线性交互信息。本发明在判定多模态数据重要程度基础上,能从细粒度层面刻画稳定的局部高维复杂动态交互信息,是对当前情感识别领域的多模态融合框架的有效补充。
-
公开(公告)号:CN118968560A
公开(公告)日:2024-11-15
申请号:CN202411144440.4
申请日:2024-08-20
Applicant: 杭州电子科技大学
IPC: G06V40/10 , G06N3/045 , G06N3/0475 , G06N3/094 , G06V10/82 , G06V10/764 , G06V10/44 , G06V10/774 , G06N3/0464 , G06N3/0442
Abstract: 本发明公开了一种单源域适应跨时段脑纹识别方法,该跨时段脑纹识别方法通过数据对齐处理受试者的数据,并使用域鉴别器对抗模块和关联域自适应模块来构建跨时段脑纹识别模型,能够在只有一个时段的脑电数据作为源域的情况下,仍能识别不同时段的脑电信号,解决了传统脑纹识别中跨时段数据泛化能力较弱和脑电标记数据不足的问题;同时,该跨时段脑纹识别方法采用的数据对齐方式并不需要被试标签,而是直接在原有脑电数据上进行变换,使其适应这些变化并提取域不变特征,从而实现单源域适应跨时段脑电信号的身份预测。此外,该跨时段脑纹识别方法引入自注意力机制来识别关键特征,减少对冗余信息的过度响应,从而提高特征的鲁棒性。
-
公开(公告)号:CN118094217A
公开(公告)日:2024-05-28
申请号:CN202410062178.2
申请日:2024-01-16
Applicant: 杭州电子科技大学
IPC: G06F18/214 , G06F18/241 , G06F18/213 , G06N3/0464 , G06N3/09 , G06V40/16
Abstract: 本发明公开一种基于脑机协同训练的半监督面部情绪识别方法,在有标签的图像上训练认知模型和分类模型,使用训练后的认知模型和分类模型预测无标签数据的伪标签,将预测一致的标签作为图像的伪标签。认知模型和分类模型在伪标签扩增后的训练集上更新训练,然后重新预测无标签图像,如此反复;将检测效果最佳的分类模型作为最终分类模型。将被测图像输入最终分类模型,最终分类模型输出被测图像中的对象的情绪类型。本发明通过交替训练认知模型和分类模型,相互验证预测结果获得更高质量的伪标签,防止单一模型过度拟合预测错误的伪标签数据,从而更充分地利用无标签图像数据。
-
-
-
-
-
-
-
-
-