-
公开(公告)号:CN117151195A
公开(公告)日:2023-12-01
申请号:CN202311050918.2
申请日:2023-08-18
Applicant: 鹏城实验室
IPC: G06N3/084 , G06N3/0464
Abstract: 本发明提供了一种基于求逆归一化的模型优化方法、装置、设备和介质,方法包括:获取深度神经网络模型,并计算出深度神经网络模型中每个网络层的逆矩阵;根据每个网络层的逆矩阵得到Fisher信息矩阵的逆矩阵和多个中间梯度值;根据多个中间梯度值计算平均梯度项和平均平方项;根据Fisher信息矩阵的逆矩阵对平均平方项进行划分处理,得到每个网络层对应的梯度向量;对每个网络层的梯度向量进行归一化处理,得到单位化平均平方项;根据单位化平均平方项和平均梯度项调整深度神经网络模型中的待优化变量,得到优化后的深度神经网络模型,其中,本申请提供了一种能够在仅增加少量功耗的情况下优化神经网络的训练精度的模型优化方案,以提高模型性能。
-
公开(公告)号:CN117056680A
公开(公告)日:2023-11-14
申请号:CN202310892526.4
申请日:2023-07-20
Applicant: 鹏城实验室
IPC: G06F18/15 , G06F18/241 , G06F18/25 , G06N3/0464 , G06N3/08
Abstract: 本申请公开了一种数据降噪与信号探测方法、装置、系统及存储介质,涉及数据和信号处理技术领域,包括:生成低信噪比的模拟数据;对模拟数据中的混合信号进行预处理,得到训练数据;将第一卷积神经网络、第二卷积神经网络、自注意力机制以及多层全连接神经网络进行融合,得到融合式深度神经网络;通过训练数据对融合式深度神经网络进行分步训练,得到具备降噪功能的目标模型;将低信噪比的真实数据输入目标模型,以使目标模型对真实数据进行降噪和信号探测,得到降噪和信号探测的处理结果。本申请能够对低信噪比数据进行精确地降噪和探测处理。
-
公开(公告)号:CN115456149B
公开(公告)日:2023-07-25
申请号:CN202211221881.0
申请日:2022-10-08
Applicant: 鹏城实验室
Abstract: 本发明公开了一种脉冲神经网络加速器学习方法、装置、终端及存储介质,包括:获取前向运算所需数据,并根据前向运算数据在前向运算引擎中进行第一卷积运算和自组织迁移运算,得到前向运算结果;根据前向运算结果在后向运算引擎中进行第二卷积运算和梯度运算,得到后向运算结果;根据后向运算结果进行梯度更新运算,并根据梯度更新运算的结果更新脉冲神经网络加速器的梯度参数。本发明可以高效处理基于BPTT的脉冲神经网络学习,从而确保了SNN的精度,端到端的解决了SNN学习问题。
-
公开(公告)号:CN116246064A
公开(公告)日:2023-06-09
申请号:CN202211569881.X
申请日:2022-12-08
Applicant: 鹏城实验室
Abstract: 本发明所提供的一种多尺度空间特征增强方法及装置,所述方法包括:对待分割病理图像进行处理,得到目标病理图像;将所述目标病理图像输入图像特征提取网络,提取所述目标病理图像中的不同尺度的特征,得到不同尺度层级的特征图像;将不同尺度层级的所述特征图像输入自注意力机制,进行空间特征增强处理,得到最终特征图;将所述最终特征图输入基于两阶段检测器的基线模型,生成分割结果。本发明通过将不同尺度层级的所述特征图像输入自注意力机制,进行空间特征增强处理,提取到了信息更丰富的特征图,可以更好地对图像上的目标进行识别和定位,避免了仅依赖于最后一个特征图上的像素,提高了分割精度。
-
公开(公告)号:CN116051470A
公开(公告)日:2023-05-02
申请号:CN202211623471.9
申请日:2022-12-16
Applicant: 鹏城实验室
IPC: G06T7/00 , G06T7/11 , G06V10/774 , G06V10/82 , G06N3/08 , G06N3/0464
Abstract: 本发明公开了一种基于数据增强的肝脏CT术后肿瘤分割方法及装置,所述方法包括:构建SPADE生成对抗网络模型;其中所述SPADE生成对抗网络模型包括生成器和判别器;对所述SPADE生成对抗网络模型进行训练,得到训练完成的SPADE生成对抗网络模型;获取2D常规肝脏肿瘤的轮廓掩模,并将所述轮廓掩模输入到所述训练完成的SPADE生成对抗网络模型中的所述生成器,得到生成的2D术后肝脏肿瘤图像;根据所述生成的2D术后肝脏肿瘤图像,得到3D术后肝脏肿瘤数据集。本发明可从各种形态的常规肿瘤中提取轮廓掩模,生成得到生成的2D术后肝脏肿瘤图像,从而扩充了数据量稀少的术后肿瘤的样本个数。
-
公开(公告)号:CN115936103A
公开(公告)日:2023-04-07
申请号:CN202211525392.4
申请日:2022-12-01
Applicant: 鹏城实验室
IPC: G06N3/084 , G06N3/04 , G06V10/774 , G06V10/82 , G06V10/764
Abstract: 本发明公开了一种深度学习模型的训练方法、装置、终端及存储介质,先获取深度学习模型中每个网络层的第一矩阵和第二矩阵;根据第三矩阵,确定第一矩阵的逆矩阵、第二矩阵的逆矩阵;第一矩阵由反向传回来的损失函数值对各网络层非线性映射之前输出的梯度的期望值组成;第二矩阵由各网络等的上一层非线性之后的输出的期望值组成;第三矩阵为第一预设可调参数与预设单位矩阵的乘积;第一矩阵的逆矩阵为第三矩阵与第一矩阵的差值;第二矩阵的逆矩阵为第三矩阵与第二矩阵的差值;基于第一矩阵和第二矩阵的最大特征值、逆矩阵,确定网络层的逆矩阵,以得到深度学习模型的Fisher信息矩阵的逆矩阵对深度学习模型进行训练,极大地减少模型训练的计算资源。
-
公开(公告)号:CN115856341A
公开(公告)日:2023-03-28
申请号:CN202211390749.2
申请日:2022-11-07
Applicant: 鹏城实验室
IPC: G01P3/38
Abstract: 本发明公开了一种基于动态视觉传感器的瞬时转速测量方法及相关设备,所述方法包括:获取目标部件的目标影像;分段采集所述目标影像的脉冲信号流;根据所述脉冲信号流获取目标脉冲图像序列;根据所述目标脉冲图像序列获取目标相似度序列;根据所述目标相似度序列获取所述目标部件的瞬时转速。本发明通过采用动态视觉传感器进行转速测量,无需对被测对象进行特殊标记,无需对被测对象进行额外补光,对传感器的安装拍摄角度也无特殊限制,且仅在动态变化区域产生输出,极大减少了数据量与计算量。
-
公开(公告)号:CN115629872A
公开(公告)日:2023-01-20
申请号:CN202211201027.8
申请日:2022-09-28
Applicant: 鹏城实验室
Abstract: 本发明涉及数据处理技术领域,具体是涉及一种基于AI处理器的数据处理方法和数据处理装置。本发明首先将数据处理所需要的各个程序依据其是否涉及矩阵乘划分为主程序和副程序,由于AI处理器适用于处理矩阵乘程序,因此将涉及矩阵乘的主程序放在AI处理器执行以充分利用AI处理器的计算资源,而将不涉及矩阵乘的副程序放在副处理器执行以避免其占用AI处理器的计算资源。本发明的副处理器和AI处理器协同工作,能够降低计算机执行数据处理程序所需的时间。另外,本发明的AI处理器和副处理器异构并行执行分配给各自的程序,异构并行执行即两个处理器同时执行分配给各自的程序,从而进一步降低了计算机执行数据处理程序所需的时间。
-
公开(公告)号:CN115481729A
公开(公告)日:2022-12-16
申请号:CN202211143025.8
申请日:2022-09-20
Applicant: 鹏城实验室
Abstract: 本发明涉及图像处理技术领域,具体是涉及一种混合算子模型并行训练方法、装置、设备及存储介质。本发明首先将混合算子模型分割成支路模型,即将混合算子模型化整为零,然后将在每个训练节点上训练一个支路模型,使得各个训练节点同时并行训练各个支路模型,最后将各个支路模型的输出结果进行汇总,得到混合算子模型的整体输出结果,根据该整体输出结果调整模型参数,完成模型训练。从上述分析可知,本发明通过在各个训练节点上训练各个支路模型实现了并行训练,而并行训练能够节省训练时间,以提高训练速度,使得混合算子模型快速收敛。
-
公开(公告)号:CN115456174A
公开(公告)日:2022-12-09
申请号:CN202211200959.0
申请日:2022-09-29
Applicant: 鹏城实验室
Abstract: 本发明公开了一种针对分子三维结构的分子属性预测模型训练方法。本发明利用现有的多个已经训练完成的预测精度较低的模型为分子三维结构的未标注数据集提供伪标签,基于包含伪标签的数据集对以分子三维结构为输入的神经网络模型进行训练,基于少量有标注的分子低维结构数据确定伪标签数据集的训练权重,同时采用上述少量有标注数据集的分子三维结构数据进一步提升模型的预测效果。解决了现有技术中由于带分子属性标签的分子三维结构的数据集很少,因此难以获得以分子三维结构为输入的训练效果好的分子属性预测模型的问题。
-
-
-
-
-
-
-
-
-