一种神经网络模型量化方法、系统、设备及计算机介质

    公开(公告)号:CN114970822A

    公开(公告)日:2022-08-30

    申请号:CN202210609520.7

    申请日:2022-05-31

    Abstract: 本申请公开了一种神经网络模型量化方法、系统、设备及计算机介质,用于对神经网络模型进行量化,包括获取待量化的目标神经网络模型中各网络层的权重值、超参数及位置序号;对权重值、超参数及位置序号进行线性嵌入,生成目标嵌入矩阵;基于预先训练好的Transformer模型对目标嵌入矩阵进行处理,得到目标神经网络模型中各网络层的量化bit数;基于量化bit数对目标神经网络模型进行量化,得到目标量化神经网络模型。本申请中,借助Transformer模型对目标嵌入矩阵进行处理,得到目标神经网络模型中各层的量化bit数,可以降低模型大小和内存占用,同时保留原网络的精度损失较小,此外可以大大减少运算量,局限性低。

    一种数据划分方法、系统、设备及计算机可读存储介质

    公开(公告)号:CN116257760B

    公开(公告)日:2023-08-11

    申请号:CN202310526511.6

    申请日:2023-05-11

    Abstract: 本发明公开了一种数据划分方法、系统、设备及计算机可读存储介质,涉及数据处理技术领域,获取目标数据集;基于数据的标签信息将目标数据集划分为第一数据集及第二数据集;基于数据的特征信息将第一数据集划分为目标数量的初始子数据集;确定各个初始子数据集的中心数据;确定第二数据集中至少一个第二数据与至少一个中心数据间的关联等级,关联等级基于第二数据与中心数据间关联的数据个数确定;对于第二数据,将与第二数据对应且等级最低的关联等级作为第二数据的目标关联等级,将第二数据划分至目标关联等级对应的中心数据所在的初始子数据集中,得到目标子数据集;实现了对目标数据集进行特征信息均衡及关联均衡的划分,数据划分效果好。

    一种图像处理方法、系统、设备及可读存储介质

    公开(公告)号:CN114444657A

    公开(公告)日:2022-05-06

    申请号:CN202111666557.5

    申请日:2021-12-30

    Abstract: 本申请公开了一种图像处理方法,包括:依据固有结构化稀疏度对预设长短时记忆网络模型的权值矩阵进行分组,得到对应的权值组;分别计算每个权值组与其他权值组的皮尔森相关系数,将皮尔森相关系数作为权值组被采样到的采样概率,并依据预设压缩率通过采样概率随机选择对应的权值组进行压缩,得到压缩后的长短时记忆网络模型;利用压缩后的长短时记忆网络模型对输入的图像进行图像处理。本申请能够根据用户指定的压缩比进行神经元剪枝,不依赖训练直接通过最小化权值矩阵输出的重构误差,获得压缩后网络权值矩阵的新权值,进而实现了循环神经网络的压缩本申请同时还提供了一种图像处理系统、设备及可读存储介质,具有上述有益效果。

    一种深度神经网络量化方法、系统、存储介质和电子设备

    公开(公告)号:CN114861878A

    公开(公告)日:2022-08-05

    申请号:CN202210469678.9

    申请日:2022-04-30

    Abstract: 本申请提供一种深度神经网络量化方法,涉及人工智能领域,包括:获取浮点型模型参数和深度神经网络模型;利用所述浮点型模型参数并采用局部权重参数量化对所述深度神经网络模型进行量化,得到第一量化模型;若所述第一量化模型满足预设量化精度,结束量化;若所述第一量化模型不满足预设量化精度,采用全局激活输出量化处理所述第一量化模型,得到第二量化模型。本申请采用局部量化和全局量化相结合的量化策略,进行快速后训练量化。量化过程计算简单,每步优化目标单一,因此更容易找到最优解。本申请还提供一种深度神经网络量化系统、计算机可读存储介质和电子设备,具有上述有益效果。

    一种基于神经网络的器件参数获取方法、系统及相关组件

    公开(公告)号:CN114329900A

    公开(公告)日:2022-04-12

    申请号:CN202111450077.5

    申请日:2021-11-30

    Abstract: 本申请公开了一种基于神经网络的器件参数获取方法、系统、装置及计算机可读存储介质,该基于神经网络的器件参数获取方法通过逆网络、判别网络和前向预测网络构成的神经网络为目标电磁光谱响应优化出对应的器件参数,本申请中将逆网络和判别网络结合对抗训练,优化生成的器件参数,使其接近真实参数,同时生成对抗网络所需训练数据集小,节省了硬件资源,提高了神经网络的鲁棒性,再将逆网络生成的满足真实条件的器件参数输入前向预测网络,实现逆网络和前向预测网络结合训练,当实际电磁光谱响应和目标电磁光谱响应匹配时,再输出逆网络生成的器件参数,优化生成的器件性能,在输入为期望的目标电磁光谱响应下,输出性能较高的器件参数。

    一种数据划分方法、系统、设备及计算机可读存储介质

    公开(公告)号:CN116257760A

    公开(公告)日:2023-06-13

    申请号:CN202310526511.6

    申请日:2023-05-11

    Abstract: 本发明公开了一种数据划分方法、系统、设备及计算机可读存储介质,涉及数据处理技术领域,获取目标数据集;基于数据的标签信息将目标数据集划分为第一数据集及第二数据集;基于数据的特征信息将第一数据集划分为目标数量的初始子数据集;确定各个初始子数据集的中心数据;确定第二数据集中至少一个第二数据与至少一个中心数据间的关联等级,关联等级基于第二数据与中心数据间关联的数据个数确定;对于第二数据,将与第二数据对应且等级最低的关联等级作为第二数据的目标关联等级,将第二数据划分至目标关联等级对应的中心数据所在的初始子数据集中,得到目标子数据集;实现了对目标数据集进行特征信息均衡及关联均衡的划分,数据划分效果好。

Patent Agency Ranking