-
公开(公告)号：CN116843021A
公开(公告)日：2023-10-03
申请号：CN202310452493.1
申请日：2023-04-25
Abstract: 本发明公开了一种基于知识蒸馏特征生成的长尾数据联邦学习方法和系统，在服务器上训练一个轻量级的生成模型。生成模型的输入为标签，输出为对应的特征。生成特征可以模拟真实特征的分布。在个性化模型的训练过程中，为每个客户端上的局部少数类生成更多特征，为其他类生成更少特征，这将有助于缓解每个客户端数据的严重不平衡。此外，全局模型是从局部模型聚合而来的，在全局头类中表现更好，而且能够获得高质量和含有丰富信息的特征。将全局模型的知识提取到个性化模型中可以帮助提高个性化模型的性能。通过生成特征来知识蒸馏来训练个性化模型。这样能够有效解决联邦异构长尾数据分布的问题，进一步提升了个性化联邦学习下的模型性能。
-
公开(公告)号：CN114429219B
公开(公告)日：2025-02-11
申请号：CN202111502142.4
申请日：2021-12-09
IPC: G06N20/00
Abstract: 本发明公开了一种面向长尾异构数据的联邦学习方法包括如下步骤：步骤一、服务器端随机初始化全局模型w并将模型参数发给各个客户端，各个客户端利用收到的模型参数进行模型更新，并将更新后的模型参数上传至服务器端；步骤二、服务器端对收到的本地模型参数后进行聚合得到教师模型和学生模型；步骤三、服务器端对步骤二中得到的教师模型进行校准，让教师模型在无偏知识上进行学习，以此教出好的学生模型；步骤四、使用知识蒸馏将教师模型的无偏知识传递给学生模型，随后将学生模型发给各个客户端开始下一轮联邦训练。
-
公开(公告)号：CN116628543A
公开(公告)日：2023-08-22
申请号：CN202310452512.0
申请日：2023-04-25
IPC: G06F18/24 , H04L67/01 , G06N3/098 , G06F18/214
Abstract: 本发明公开了一种基于元学习的不平衡数据联邦学习方法和系统，包括：客户端接收服务端下发的赋权模型参数和全局模型参数，利用本地数据和赋权模型参数得到用作校正数据不平衡的权重，基于权重、本地数据以及全局模型参数更新本地模型参数，其中，赋权模型参数包括类赋权模型参数、样本赋权模型参数，对应的权重包括类权重和样本权重；服务端接收客户端上传的本地模型参数并聚合得到全局模型参数，利用元数据、赋权模型参数以及聚合的全局模型参数得到元全局模型参数，利用元全局模型参数和元数据来更新赋权模型参数，更新的赋权模型参数和聚合的全局模型参数下发至客户端进行下一轮联邦学习。
-
公开(公告)号：CN114429219A
公开(公告)日：2022-05-03
申请号：CN202111502142.4
申请日：2021-12-09
IPC: G06N20/00
Abstract: 本发明公开了一种面向长尾异构数据的联邦学习方法包括如下步骤：步骤一、服务器端随机初始化全局模型w并将模型参数发给各个客户端，各个客户端利用收到的模型参数进行模型更新，并将更新后的模型参数上传至服务器端；步骤二、服务器端对收到的本地模型参数后进行聚合得到教师模型和学生模型；步骤三、服务器端对步骤二中得到的教师模型进行校准，让教师模型在无偏知识上进行学习，以此教出好的学生模型；步骤四、使用知识蒸馏将教师模型的无偏知识传递给学生模型，随后将学生模型发给各个客户端开始下一轮联邦训练。
-
公开(公告)号：CN115496077B
公开(公告)日：2023-04-18
申请号：CN202211442584.9
申请日：2022-11-18
Applicant: 之江实验室
IPC: G06F40/30 , G06F40/126 , G06F40/242 , G06F18/25 , G06Q50/00
Abstract: 本发明公开一种基于模态观察和评分的多模态情感分析方法和装置，该方法包括：步骤一，获取不同模态原始数据，针对不同模态特点提取模态特征表示；步骤二，使用模态观察模块对各模态信息进行初步融合，获得模态融合权重和模态学习权重；步骤三，基于模态融合权重和单模态特征表示，构建多模态特征表示和多模态代理特征表示；步骤四，使用模态评分模块对多模态特征表示和多模态代理特征表示进行情感打分，结合模态学习权重，基于多任务学习框架完成情感分析模型的训练。本发明不仅能够完成多模态情感分析任务，也能够完成各个单模态情感分析任务，能够做到一次训练、多处使用，从而减轻训练负担，大大提升使用效率和多模态情感分析效果。
-
Patent Agency Ranking
公开(公告)号：CN115439817A
公开(公告)日：2022-12-06
申请号：CN202211016393.6
申请日：2022-08-24
Applicant: 之江实验室
Abstract: 本发明公开了一种基于场景先验的视觉车道线检测系统及方法，包括：数据处理模块、视觉主干网络模块、先验知识对齐模块、融合网络模块、检测网络模块；所述数据处理模块的输入为待检测的图像数据、场景先验数据、定位数据，输出为归一化之后的图像、用栅格图维护的局部场景先验信息；所述视觉主干网络模块的输入为归一化之后的图像，输出为图像特征；所述先验知识对齐模块，输入为用栅格图维护的局部场景先验信息，输出为对齐后的局部场景先验信息；所述融合网络模块，输入为图像特征和对齐后的局部场景先验信息，输出为融合后的图像特征和局部场景先验信息；所述检测网络模块，输入为融合后的图像特征，输出为用掩码表示的车道线检测结果。
-
公开(公告)号：CN114677442B
公开(公告)日：2022-10-28
申请号：CN202210583847.1
申请日：2022-05-26
Applicant: 之江实验室
Abstract: 本发明公开了一种基于序列预测的车道线检测系统、装置和方法，所述方法对待检测的图像数据进行归一化操作得到归一化后的图像，并查找相应的预测关键点序列；提取归一化后的图像的特征向量，对该特征向量进行降维得到降维特征，将该降维特征按高宽维度展开，得到图像序列特征；基于降维特征的维度计算图像位置编码，将图像序列特征和图像位置编码相加，再共同进行编码得到编码记忆；对预测关键点序列进行特征提取得到解码序列特征；对编码记忆、预测关键点序列的位置编码与解码序列特征进行解码，得到待预测关键点的隐状态向量；将待预测关键点的隐状态向量转化为关键点的坐标。本发明提高了车道线的密集关键点的预测准确率，并实现快速预测。
-
公开(公告)号：CN115204529A
公开(公告)日：2022-10-18
申请号：CN202211118482.1
申请日：2022-09-15
Applicant: 之江实验室
Abstract: 本发明涉及智能电网领域，提出了一种基于时间注意力机制的非侵入式负荷监测方法及装置，所述方法包括如下步骤：获取建筑某时段内的总负荷数据、设备负荷数据及对应采样时间；将总负荷数据、设备负荷数据分别与对应采样时间进行融合，得到增强的总负荷数据和设备负荷数据；利用滑动窗口法对增强的总负荷数据和设备负荷数据进行分割，构造深度学习训练数据集；构建神经网络模型，基于深度学习训练框架并利用得到的训练数据集对模型进行训练。本发明内容可有效提取负荷工作时间模式及其内在的依赖关系，从而提升负荷监测的准确性。
-
公开(公告)号：CN114677442A
公开(公告)日：2022-06-28
申请号：CN202210583847.1
申请日：2022-05-26
Applicant: 之江实验室
Abstract: 本发明公开了一种基于序列预测的车道线检测系统、装置和方法，所述方法对待检测的图像数据进行归一化操作得到归一化后的图像，并查找相应的预测关键点序列；提取归一化后的图像的特征向量，对该特征向量进行降维得到降维特征，将该降维特征按高宽维度展开，得到图像序列特征；基于降维特征的维度计算图像位置编码，将图像序列特征和图像位置编码相加，再共同进行编码得到编码记忆；对预测关键点序列进行特征提取得到解码序列特征；对编码记忆、预测关键点序列的位置编码与解码序列特征进行解码，得到待预测关键点的隐状态向量；将待预测关键点的隐状态向量转化为关键点的坐标。本发明提高了车道线的密集关键点的预测准确率，并实现快速预测。
-
公开(公告)号：CN113283547B
公开(公告)日：2021-11-23
申请号：CN202110826171.X
申请日：2021-07-21
Applicant: 之江实验室
Abstract: 本发明涉及到智能电网领域，提出了一种基于多任务深度学习的最优潮流计算方法，步骤如下：获取电网在某一调度时刻的状态数据，通过采样方式对采集到的数据样本进行扩增，得到训练数据；应用最优化方法获得不同采样状态下的电网调度方案，得到训练数据的标签信息；设计深度学习神经网络模型，对最优潮流计算问题的可行性、最优解分别进行学习，输出可行性判断和最优解预测；基于多任务学习框架，对最优潮流计算问题中的可行性判断与最优解预测两个任务同时训练；根据多任务深度学习模型的输出结果，判断是否存在可行的调度方案，输出最优调度方案或预警信息。本发明不仅能够更高效地求解调度方案，而且能够对不存在可行调度方案的场景进行预警。
-
-
-
-
-
-
-
-
-
Search Results
23
records
(took 0.053 seconds)
