-
公开(公告)号:CN116720568A
公开(公告)日:2023-09-08
申请号:CN202310697492.3
申请日:2023-06-13
Applicant: 北京大学长沙计算与数字经济研究院 , 北京大学
Abstract: 本发明涉及神经网络参数压缩、张量分解方法、存储介质和终端设备,包括:提取神经网络参数构成的N阶张量;将N阶张量执行优化张量分解过程,得到N个三阶核张量,代替N阶张量,执行神经网络步骤;关键在于,其优化张量分解过程,对缩并顺序进行了调整优化,根据待分解张量的阶数,构建待分解张量的序列集合;求和得到总序列;判断其中存在几个位置的值等于序列集合的序列个数的倍数;若存在一个,则将该一个位置对应的节点设定为公共节点;若存在多个,则将该多个位置对应的节点串联;判断序列集合的序列个数是否大于1,若是则将其划分为两组,递归上述步骤,若否,则得到缩并顺序,据此优化张量分解过程压缩神经网络参数。
-
公开(公告)号:CN117407419B
公开(公告)日:2024-11-01
申请号:CN202311160042.7
申请日:2023-09-08
Applicant: 北京大学 , 北京大学长沙计算与数字经济研究院
IPC: G06F16/2455 , G06F16/28
Abstract: 本发明公开了一种高维数据的查找方法及装置、存储介质、电子设备。其中,该方法包括:确定搜索空间中的初始值,其中,初始值包括初始位置值和初始元素值,初始位置值由N个向量构成,每个向量长度为高维数组对应阶的维度大小,N为大于2的正整数;基于初始值查找搜索空间在单一维度的单维最大值,以及单维最大值的数组位置;将单维最大值和数组位置输出为搜索空间在当前迭代周期的当前最大元素。通过本发明,解决了相关技术中在搜索空间中查找高维最大元素的准确率低的技术问题,可适配于各种低秩表示形式的数据,通用性高,通过交替迭代的策略保证了收敛性,且减少了对超参数的依赖,无论是人造数据还是真实数据,提高了准确率和稳定性。
-
公开(公告)号:CN116701816A
公开(公告)日:2023-09-05
申请号:CN202310605576.X
申请日:2023-05-26
Applicant: 北京大学长沙计算与数字经济研究院 , 北京大学
IPC: G06F17/10
Abstract: 本发明涉及缩并顺序的优化及张量分解方法、存储介质和终端设备,在连续缩并满足交换律,即缩并运算的计算顺序对结果没有影响的指导下,在每个因子更新时,将待缩并张量排序,以从待缩并张量的两边到中间缩并为基本原则,减少计算量、优化缩并类型;在此原则基础上,在缩并过程中进一步的以最小计算量为优化目标,确定每个因子更新的最优缩并顺序,以进一步降低计算量,提升张量分解的整体性能。
-
公开(公告)号:CN116401503A
公开(公告)日:2023-07-07
申请号:CN202310181406.3
申请日:2023-02-20
Applicant: 北京大学 , 北京大学长沙计算与数字经济研究院
IPC: G06F17/16 , G06F18/2135 , G06F16/901
Abstract: 本发明提出了应用于数据压缩与分析的张量分解性能优化方法和系统。所述张量分解算法的主要性能瓶颈是连续的张量矩阵乘运算,本发明性能优化方法将张量分解过程建模成树的形式,通过尽量重用操作,从而减少关键操作的计算量,提升计算性能。具体包括:树的构建:首先,将要压缩的N阶输入数据张量χ作为根节点,并将N个数据子节点与根节点相连,其中,一个数据节点对应一颗子树;以分治的方式对每颗子树进行结构创建。计算过程:从根节点,以深度优先方式遍历树,每遍历到一个节点,进行一次张量矩阵乘操作计算,最终完成全部运算。该优化方法可以大幅减少张量矩阵乘操作的次数,从而提升计算性能。
-
公开(公告)号:CN117407419A
公开(公告)日:2024-01-16
申请号:CN202311160042.7
申请日:2023-09-08
Applicant: 北京大学 , 北京大学长沙计算与数字经济研究院
IPC: G06F16/2455 , G06F16/28
Abstract: 本发明公开了一种高维数据的查找方法及装置、存储介质、电子设备。其中,该方法包括:确定搜索空间中的初始值,其中,初始值包括初始位置值和初始元素值,初始位置值由N个向量构成,每个向量长度为高维数组对应阶的维度大小,N为大于2的正整数;基于初始值查找搜索空间在单一维度的单维最大值,以及单维最大值的数组位置;将单维最大值和数组位置输出为搜索空间在当前迭代周期的当前最大元素。通过本发明,解决了相关技术中在搜索空间中查找高维最大元素的准确率低的技术问题,可适配于各种低秩表示形式的数据,通用性高,通过交替迭代的策略保证了收敛性,且减少了对超参数的依赖,无论是人造数据还是真实数据,提高了准确率和稳定性。
-
公开(公告)号:CN115146226A
公开(公告)日:2022-10-04
申请号:CN202211056894.7
申请日:2022-08-31
Applicant: 北京大学
Abstract: 本公开的实施例提供了一种基于张量压缩方法的流数据处理方法、装置及设备,涉及数据处理领域。所述方法包括对流数据的数据矩阵进行采样,提取多个矩阵;对采样得到的矩阵进行张量化处理,得到三阶张量;对所述三阶张量进行Tucker分解,得到压缩矩阵;利用所述压缩矩阵对流数据的数据矩阵进行低秩逼近求解。以此方式,得到的压缩矩阵提取了流数据的主要特征,保证高精度的同时提高了效率。
-
公开(公告)号:CN115146226B
公开(公告)日:2022-12-06
申请号:CN202211056894.7
申请日:2022-08-31
Applicant: 北京大学
Abstract: 本公开的实施例提供了一种基于张量压缩方法的流数据处理方法、装置及设备,涉及数据处理领域。所述方法包括对流数据的数据矩阵进行采样,提取多个矩阵;对采样得到的矩阵进行张量化处理,得到三阶张量;对所述三阶张量进行Tucker分解,得到压缩矩阵;利用所述压缩矩阵对流数据的数据矩阵进行低秩逼近求解。以此方式,得到的压缩矩阵提取了流数据的主要特征,保证高精度的同时提高了效率。
-
-
-
-
-
-