公开(公告)号：CN113313244B

公开(公告)日：2024-04-09

申请号：CN202110670196.5

申请日：2021-06-17

Applicant: 东南大学

Inventor： 齐志 ,  凌星宇 ,  刘昊 ,  史旭龙

IPC: G06N3/063 ,  G06N3/082 ,  G06F1/3234

Abstract: 本发明公开了一种面向加法网络的近存储神经网络加速器及其加速方法。神经网络加速器包括指令发生单元，计算单元组和后处理模块。加速器将在指令发生单元中利用低比特的权重和激活进行比较生成指令，指令传入计算单元组中特定的计算单元，指导其中存有的全精度权重或激活的计算，并根据指令将输出传送至后处理单元进行处理，生成最终的结果。本发明分离了符号的提取和全精度数据的计算，设计了一种可重构，可扩展的近存储计算单元，便于适应不同的神经网络推理任务，同时对加法网络模型进行了数据压缩和分组，仅保留非稀疏全精度数据，降低了模型大小和计算次数。

公开(公告)号：CN113313244A

公开(公告)日：2021-08-27

申请号：CN202110670196.5

申请日：2021-06-17

Applicant: 东南大学

Inventor： 齐志 ,  凌星宇 ,  刘昊 ,  史旭龙

IPC: G06N3/063 ,  G06N3/08 ,  G06F1/3234

Abstract: 本发明公开了一种面向加法网络的近存储神经网络加速器及其加速方法。神经网络加速器包括指令发生单元，计算单元组和后处理模块。加速器将在指令发生单元中利用低比特的权重和激活进行比较生成指令，指令传入计算单元组中特定的计算单元，指导其中存有的全精度权重或激活的计算，并根据指令将输出传送至后处理单元进行处理，生成最终的结果。本发明分离了符号的提取和全精度数据的计算，设计了一种可重构，可扩展的近存储计算单元，便于适应不同的神经网络推理任务，同时对加法网络模型进行了数据压缩和分组，仅保留非稀疏全精度数据，降低了模型大小和计算次数。