-
公开(公告)号:CN118194907A
公开(公告)日:2024-06-14
申请号:CN202211604689.X
申请日:2022-12-13
Applicant: 北京航天自动控制研究所
Abstract: 本申请提供了一种可复用的三维矩阵直连与量化对齐算子设计方法,本申请面向ResNet、DenseNet等主流高性能神经网络中跳连处理操作。本申请能够复用同一算子单元,完成满足模型部署时任意量化位数下shortcut操作中矩阵对齐与运算操作,以及concat中沿通道方向拼接操作,运算并行度可以根据特征图大小及计算效率需求进行配置,提升了算子单元的通用性,同时节省了硬件资源。
-
公开(公告)号:CN115935888A
公开(公告)日:2023-04-07
申请号:CN202211552350.X
申请日:2022-12-05
Applicant: 北京航天自动控制研究所
Inventor: 周辉 , 王晓峰 , 谢宇嘉 , 李悦 , 赵雄波 , 吴松龄 , 盖一帆 , 路坤峰 , 李晓敏 , 张隽 , 弭寒光 , 董文杰 , 靳蕊溪 , 吴敏 , 赵冠杰 , 阳徽 , 费亚男 , 李洋 , 赵伟
IPC: G06F30/392 , G06N3/0464 , G06N3/063
Abstract: 本公开属于专用算法硬件电路设计技术领域,具体而言涉及一种神经网络加速系统包括:信息配置模块;和池化加速单元包括:控制模块,控制模块根据信息配置模块的参数信息得到张量块的信息以及地址信息;输入张量缓存模块,与控制模块相连,根据由控制模块得到的输入张量块地址信息缓存从外部存储模块的输入张量块;过程张量缓存模块,与控制模块相连,根据由控制模块得到的输出张量块地址信息缓存沿宽度方向池化的输出张量块,并提供沿高度方向池化的输入数据;池化器阵列模块,分别与输入张量缓存模块和过程张量缓存模块相连,进行宽度方向的池化和高度方向的池化,并沿通道方向进行并行计算,以缩短池化耗时。
-
公开(公告)号:CN115906972A
公开(公告)日:2023-04-04
申请号:CN202211551893.X
申请日:2022-12-05
Applicant: 北京航天自动控制研究所
Inventor: 周辉 , 谢宇嘉 , 王晓峰 , 李悦 , 赵雄波 , 吴松龄 , 盖一帆 , 路坤峰 , 李晓敏 , 张隽 , 弭寒光 , 董文杰 , 靳蕊溪 , 吴敏 , 赵冠杰 , 阳徽 , 费亚男 , 李洋 , 赵伟
IPC: G06N3/063 , G06N3/0464
Abstract: 本公开属于神经网络技术领域,具体而言涉及一种神经网络池化层加速方法,包括:获取配置参数信息;根据所述配置参数信息得到张量块的信息数据;所述张量块包括输入张量块和输出张量块,所述信息数据包括张量块的缓存地址;基于所述缓存地址获取输入数据;根据所述配置参数信息对所述输入数据进行宽度方向的池化,并将过程数据缓存;基于所述过程数据进行高度方向的池化;重复池化步骤,直至遍历所有输入张量块。以缩短池化运算的耗时。
-
公开(公告)号:CN115809691A
公开(公告)日:2023-03-17
申请号:CN202211585769.5
申请日:2022-12-10
Applicant: 北京航天自动控制研究所
Inventor: 王晓峰 , 李晓敏 , 周辉 , 赵雄波 , 盖一帆 , 蒋彭龙 , 路坤锋 , 李超然 , 谢宇嘉 , 吴敏 , 林平 , 董文杰 , 吴松龄 , 弥寒光 , 黄鹂 , 赵冠杰 , 林玉野 , 李杨珺 , 王森 , 李杰 , 杨庆军 , 靳蕊溪
IPC: G06N3/063 , G06F17/16 , G06N3/0464
Abstract: 本公开属于神经网络加速计算技术领域,具体而言涉及一种基于Winograd的相关算法加速器计算方法,包括:获取基准张量块和实时张量块;通过Winograd变换由基准张量块得到第一张量块,由实时张量块得到第二张量块;通过张量块逐点相乘由第一张量块和第二张量块得到第三张量块;沿通道方向累加所述第三张量块,得到第一矩阵;通过Winograd反变换由第一矩阵得到第二矩阵;逐点相加第二矩阵和偏执矩阵,得到过程矩阵;将所述过程矩阵输入至过程张量缓存中,遍历结束后输出。上述过程提高计算速率和计算连续性。
-
公开(公告)号:CN115759220A
公开(公告)日:2023-03-07
申请号:CN202211584828.7
申请日:2022-12-10
Applicant: 北京航天自动控制研究所
Inventor: 王晓峰 , 周辉 , 赵雄波 , 盖一帆 , 蒋彭龙 , 路坤锋 , 李晓敏 , 李超然 , 谢宇嘉 , 林平 , 董文杰 , 吴松龄 , 弥寒光 , 黄鹂 , 吴敏 , 赵冠杰 , 李杨珺 , 王森 , 李杰 , 徐天运 , 靳蕊溪 , 林玉野
Abstract: 本公开属于人工智能处理器技术领域,具体而言涉及一种基于Winograd的深度学习处理系统,包括:输入通道,与外部设备通信;输入特征加载器,与所述输入通道相连;路由模块,与所述输入层加载器相连;卷积加速器核心模块,与路由模块相连,所述卷积核加速器核心模块包括至少两个并行设置的卷积核加速器子核心模块;通道累加器,与卷积加速器核心模块相连,用于累加并行的卷积核加速器子核心模块的输出数据;特征卸载器,与通道累加器相连,将所述通道累加器的输出数据传输至处理系统外。通过多尺寸Wino‑DPU混合架构,通过核间算力的最优分配,实现Wino‑DPU灵活性和高效性的全面提升,进而有效提升深度学习算法的计算效率。
-
公开(公告)号:CN114358266A
公开(公告)日:2022-04-15
申请号:CN202111683726.6
申请日:2021-12-28
Applicant: 北京航天自动控制研究所
Abstract: 本发明涉及一种数据流驱动的卷积神经网络加速器,包括:预处理模块、卷积模块、池化模块和指令分发模块;预处理模块用于加载输入特征执行卷积神经网络的预处理;卷积模块用于加载权重、偏置数据以及输入特征执行卷积层、全连接层或非线性激活层的计算;池化模块用于加载卷积模块的计算结果执行池化层的计算输出;指令分发模块用于对所述预处理模块、卷积模块和池化模块进行工作模式的配置和控制;在指令分发模块的工作模式配置和控制下,根据卷积神经网络结构,将预处理模块、卷积模块和池化模块进行动态的流式结构连接;实现对输入数据的卷积神经网络加速处理。本发明提高CNN加速器的可扩展性,提升系统的整体性能。
-
公开(公告)号:CN114327629B
公开(公告)日:2025-03-14
申请号:CN202111682235.X
申请日:2021-12-28
Applicant: 北京航天自动控制研究所
IPC: G06F9/30 , G06F7/501 , G06F7/523 , G06N3/0464 , G06N3/063
Abstract: 本发明涉及一种基于FPGA的二维多通道卷积硬件加速器,包括:控制单元、偏置缓存、权重缓存、输入特征缓存、卷积缓存、权重预读寄存器组、PE阵列、非线性单元、第二选通器和第三选通器;特征缓存连接PE阵列;权重缓存通过权重预读寄存器组连接PE阵列;偏置缓存与卷积缓存通过第三选通器连接PE阵列,PE阵列输出端通过第二选通器连接卷积缓存和非线性单元;输入特征缓存、偏置缓存和权重缓存加载数据;权重预读寄存器组对权重缓存进行预读寄存;PE阵列写入输入特征、预读寄存的权重数据,偏置数据或卷积中间结果进行卷积运算,将卷积中间结果写入卷积缓存,将卷积最终结果经非线性单元激活后输出。本发明实现对CNN中任意规模卷积层的高效计算。
-
公开(公告)号:CN115936067A
公开(公告)日:2023-04-07
申请号:CN202211539305.0
申请日:2022-12-01
Applicant: 北京航天自动控制研究所
Inventor: 谢宇嘉 , 王晓峰 , 李悦 , 周辉 , 赵雄波 , 张辉 , 吴松龄 , 李晓敏 , 杨钧宇 , 路坤峰 , 张隽 , 丛龙剑 , 盖一帆 , 李山山 , 吴敏 , 林玉野 , 靳蕊溪
IPC: G06N3/0464 , G06N3/048 , G06N3/084
Abstract: 本公开涉及一种具有ECA通道注意力机制的神经网络,所述神经网络包括ECA通道注意力装置,所述ECA通道注意力装置包括:第一层级量化单元,对所述所输入数据进行层级量化,将浮点数输入数据转化为定点数输入数据;在所述第一层级量化模块中,整个输入张量共用一个量化步长和量化零点;通道级量化单元,对所述激活层的输出进行层级量化,所述通道级量化模块对每一个通道都单独计算一个量化步长和量化零点;通道乘法加权模块,所述第一层级量化输出数据与所述通道级量化输出数据进行通道加权乘法计算。本公开通过将一维卷积层级的结果进行无损精度输出,将激活层模块沿通道方向进行量化,其他数据使用层级量化操作的方案解决模型精度下降的问题。
-
公开(公告)号:CN115809024A
公开(公告)日:2023-03-17
申请号:CN202211586179.4
申请日:2022-12-10
Applicant: 北京航天自动控制研究所
Inventor: 王晓峰 , 赵雄波 , 周辉 , 盖一帆 , 蒋彭龙 , 路坤锋 , 李晓敏 , 李超然 , 谢宇嘉 , 黄鹂 , 林平 , 董文杰 , 吴松龄 , 弥寒光 , 吴敏 , 赵冠杰 , 徐天运 , 李杨珺 , 李杰 , 杨庆军 , 靳蕊溪 , 林玉野 , 王森
Abstract: 本公开属于神经网络存储技术领域,涉及一种基于Winograd的相关算法加速器存储方法,包括S1获取相关结果矩阵块和实时图矩阵块的大小,获取相关结果矩阵和实时图张量的大小和加速单元的通道并行度;S2由片外存储向基准张量第一区域存储基准图张量块;S3由片外存储向实时张量缓存实时图张量块;S4由基准图张量缓存中的第一区域读取数据,将读取的最后两行数据写入基准图张量缓存中的第二区域的前两行;S5由基准张量缓存中读张量块并预写入基准张量寄存器组;S6由实时图张量缓存向实时图张量图寄存器写入张量块;S7将基准寄存器组的前列数据搬移到后列,同时将基准张量缓存中读取数据到寄存器组前列;S8在不同的寄存器组之间处理和计算后写入张量寄存器组。
-
公开(公告)号:CN115731094A
公开(公告)日:2023-03-03
申请号:CN202211585037.6
申请日:2022-12-10
Applicant: 北京航天自动控制研究所
Inventor: 王晓峰 , 蒋彭龙 , 周辉 , 谢宇嘉 , 赵雄波 , 盖一帆 , 路坤锋 , 李晓敏 , 李超然 , 弥寒光 , 林平 , 董文杰 , 吴松龄 , 黄鹂 , 吴敏 , 赵冠杰 , 杨庆军 , 李杨珺 , 王森 , 李杰 , 林玉野 , 靳蕊溪
IPC: G06T1/60
Abstract: 本公开属于算法硬件电路设计技术领域,具体而言涉及一种基于Winograd的相关算法加速器存储系统,包括:片外存储;片上张量缓存,与片外存储相连,所述片上张量缓存包括基准张量缓存、实时张量缓存以及过程张量缓存,其中基准张量缓存基于所述加速器的数据重用缓存计算所需的基准图张量块,实时张量缓存基于所述加速器的数据重用缓存计算所需的实时图张量块,过程张量缓存基于所述加速器的数据重用缓存当前计算产生的中间结果数据;和多个寄存器,与片上张量缓存相连,接收和/或输送基准图和/或实时图的处理数据。本公开满足计算单元高吞吐量的数据需求,还能利用尽可能少的片上资源,实现高数据复用率,降低加速器对片外存储带宽的需求。
-
-
-
-
-
-
-
-
-