公开(公告)号：CN111445013A

公开(公告)日：2020-07-24

申请号：CN202010347546.X

申请日：2020-04-28

Applicant: 南京大学

Inventor： 岳涛 ,  时云凿 ,  王蔓蓁 ,  邱禹欧 ,  潘红兵 ,  闫锋

IPC: G06N3/04 ,  G06N3/08

Abstract: 本发明一种针对卷积神经网络的非零探测器及其方法。该非零探测器包括顶层控制单元，用于将输入的激励与权重数据存入本地缓存模块，并控制激励与权重探零模块和位与及寻址模块的操作；本地缓存模块，用于存放卷积神经网络的激励与权重数据；激励与权重探零模块，用于根据本地缓存模块的激励与权重数据进行非零筛选，并将得到的比特图返回本地缓存模块；位与及寻址模块，用于将激励比特图向量和权重比特图向量按位与，得到对应位置上的权重和激励值都非零的地址，并输出给本地缓存模块。本发明的非零探测器在不额外占用太多存储与运算资源的情况下，有效地提高了卷积神经网络的计算效率，缩小了卷积神经网络计算量。

公开(公告)号：CN111445013B

公开(公告)日：2023-04-25

申请号：CN202010347546.X

申请日：2020-04-28

Applicant: 南京大学

Inventor： 岳涛 ,  时云凿 ,  王蔓蓁 ,  邱禹欧 ,  潘红兵 ,  闫锋

IPC: G06N3/0464 ,  G06N3/048 ,  G06N3/08

Abstract: 本发明一种针对卷积神经网络的非零探测器及其方法。该非零探测器包括顶层控制单元，用于将输入的激励与权重数据存入本地缓存模块，并控制激励与权重探零模块和位与及寻址模块的操作；本地缓存模块，用于存放卷积神经网络的激励与权重数据；激励与权重探零模块，用于根据本地缓存模块的激励与权重数据进行非零筛选，并将得到的比特图返回本地缓存模块；位与及寻址模块，用于将激励比特图向量和权重比特图向量按位与，得到对应位置上的权重和激励值都非零的地址，并输出给本地缓存模块。本发明的非零探测器在不额外占用太多存储与运算资源的情况下，有效地提高了卷积神经网络的计算效率，缩小了卷积神经网络计算量。

公开(公告)号：CN115688895A

公开(公告)日：2023-02-03

申请号：CN202211353397.3

申请日：2022-11-01

Applicant: 南京大学

Inventor： 王宇宣 ,  孙晓磊 ,  梅正宇 ,  时云凿 ,  潘红兵

IPC: G06N3/063 ,  G06N3/0464 ,  G06N3/08

Abstract: 本发明公开了一种卷积神经网络的比特分割方法及装置。该方法的步骤包括：步骤1，对神经网络模型进行量化，将数据类型为32位浮点数的输入数据量化为8位定点数的数据类型；步骤2，将步骤1得到的高精度量化结果分割为多条位路径进行传播；步骤3，来自每个比特的特征映射图被单独卷积，但权重参数相同；步骤4，将每个位路径的卷积结果累加起来，生成一个用于分类的特征图。本发明的方法应用在神经网络可使其所需的硬件资源大大减小，保持硬件友好特性，并提高运算速度。