-
公开(公告)号:CN119293537B
公开(公告)日:2025-03-18
申请号:CN202411820703.9
申请日:2024-12-11
Applicant: 安徽大学
IPC: G06F18/23213 , G06F18/25 , G06V10/74 , G06V20/40 , G06F16/73
Abstract: 本发明提供了基于层次化预定义知识学习的长时活动分析方法和系统,方法包括:利用多模态语义一致性,通过对比学习将教程活动的视频片段与其对应的文本描述嵌入联合语义空间,学习出视觉语言联合表示先验分布;从下游数据集中按比例采样出部分视频文本对样本,对它们的表示进行聚类,对于不同粒度的层级,构造一个对应的知识图;构成体系化预定义知识图;查找每层知识图中匹配度最高的概念节点,通过自注意融合策略将概念节点的表示进行融合,再与给定模态的样本的原始表示融合,得到样本的增强特征表示。本发明的优点在于:提出的体系化预定义知识增强方法在行为分割任务上达到了最佳性能,帧级准确度得到提高。
-
公开(公告)号:CN119293537A
公开(公告)日:2025-01-10
申请号:CN202411820703.9
申请日:2024-12-11
Applicant: 安徽大学
IPC: G06F18/23213 , G06F18/25 , G06V10/74 , G06V20/40 , G06F16/73
Abstract: 本发明提供了基于层次化预定义知识学习的长时活动分析方法和系统,方法包括:利用多模态语义一致性,通过对比学习将教程活动的视频片段与其对应的文本描述嵌入联合语义空间,学习出视觉语言联合表示先验分布;从下游数据集中按比例采样出部分视频文本对样本,对它们的表示进行聚类,对于不同粒度的层级,构造一个对应的知识图;构成体系化预定义知识图;查找每层知识图中匹配度最高的概念节点,通过自注意融合策略将概念节点的表示进行融合,再与给定模态的样本的原始表示融合,得到样本的增强特征表示。本发明的优点在于:提出的体系化预定义知识增强方法在行为分割任务上达到了最佳性能,帧级准确度得到提高。
-
公开(公告)号:CN118898772B
公开(公告)日:2024-12-10
申请号:CN202411388443.2
申请日:2024-10-08
Applicant: 安徽大学
IPC: G06V10/82 , G06N3/0464 , G06N3/082 , G06N3/098 , G06V10/26
Abstract: 本发明提供基于联邦客户端定制适配器的图像解剖分割方法及系统,方法包括:对医学基础模型,进行适配器学习adapter learning,在适配器模块插入全局‑本地解耦器GLD,得到客户端自适应适配器;对客户端自适应适配器中的卷积层,进行通道贡献量化操作,获取各通道贡献分数,以作为医学基础模型的参数生成分数;设置客户端定制联邦学习算法,在联邦学习范式下,利用客户端定制联邦更新算法,根据各通道贡献分数,对客户端进行联邦更新操作,以获取适用个性化模型;模型训练与测试。本发明解决了分布式医疗数据孤岛客户异质性显著,导致医学数据的类别不平衡,所学习的全局折衷模型与每个客户端的个体最优性偏离较大,以及稳定性低、收敛缓慢的技术问题。
-
公开(公告)号:CN118898772A
公开(公告)日:2024-11-05
申请号:CN202411388443.2
申请日:2024-10-08
Applicant: 安徽大学
IPC: G06V10/82 , G06N3/0464 , G06N3/082 , G06N3/098 , G06V10/26
Abstract: 本发明提供基于联邦客户端定制适配器的图像解剖分割方法及系统,方法包括:对医学基础模型,进行适配器学习adapter learning,在适配器模块插入全局‑本地解耦器GLD,得到客户端自适应适配器;对客户端自适应适配器中的卷积层,进行通道贡献量化操作,获取各通道贡献分数,以作为医学基础模型的参数生成分数;设置客户端定制联邦学习算法,在联邦学习范式下,利用客户端定制联邦更新算法,根据各通道贡献分数,对客户端进行联邦更新操作,以获取适用个性化模型;模型训练与测试。本发明解决了分布式医疗数据孤岛客户异质性显著,导致医学数据的类别不平衡,所学习的全局折衷模型与每个客户端的个体最优性偏离较大,以及稳定性低、收敛缓慢的技术问题。
-
-
-