Invention Grant
- Patent Title: 稀疏张量运算加速方法、系统、计算机设备和存储介质
-
Application No.: CN202311414028.5Application Date: 2023-10-30
-
Publication No.: CN117149778BPublication Date: 2024-01-16
- Inventor: 范文杰 , 李勇 , 孙红江 , 陈晨 , 杨贺淞 , 曾令仿 , 陈光 , 程稳
- Applicant: 之江实验室
- Applicant Address: 浙江省杭州市余杭区中泰街道科创大道之江实验室
- Assignee: 之江实验室
- Current Assignee: 之江实验室
- Current Assignee Address: 浙江省杭州市余杭区中泰街道科创大道之江实验室
- Agency: 杭州华进联浙知识产权代理有限公司
- Agent 何晓春
- Main IPC: G06F16/22
- IPC: G06F16/22 ; G06F16/2455
Abstract:
本申请涉及稀疏张量运算加速领域,特别是涉及一种稀疏张量运算加速方法、系统、计算机设备和存储介质,所述方法包括:读取两稀疏张量的压缩表示元数据信息,确定各稀疏张量中非零元素被标记为无效计算元素时所对应的另一个稀疏张量的起始非缩并维度索引和终止非缩并维度索引,并以键值对的形式存储在无效计算元素标记范围映射表中;对所述两稀疏张量进行自适应协同分块,得到所述两稀疏张量的预分块信息;基于所述无效计算元素标记范围映射表以及所述两稀疏张量的预分块信息,得到最终分块;将所述最终分块依次搬运至更内层缓存,直至完成计算。本发明减少运行时稀疏张量数据分块划分的重复性操作,进一步节省稀疏张量运算时间。
Public/Granted literature
- CN117149778A 稀疏张量运算加速方法、系统、计算机设备和存储介质 Public/Granted day:2023-12-01
Information query