脉冲神经网络的剪枝方法、装置及电子设备

    公开(公告)号:CN115423087A

    公开(公告)日:2022-12-02

    申请号:CN202210867737.8

    申请日:2022-07-22

    Applicant: 北京大学

    Abstract: 本发明公开了一种脉冲神经网络的剪枝方法、装置及电子设备。其中,上述方法包括:将突触连接层中每个连接权重组成的初始向量进行初始化操作得到权重向量;当基于反向传播的算法对脉冲神经网络进行剪枝训练时,通过预定义的导函数计算每个损失函数值对隐藏参数向量的梯度;对隐藏参数向量的梯度进行梯度下降更新,并利用预设的递增函数计算软阈值函数进行再次梯度更新时使用的目标阈值;基于目标阈值,利用软阈值函数再次将隐藏参数向量映射到权重向量;当对脉冲神经网络模型的剪枝训练轮数达到预设轮数时,得到训练好的脉冲神经网络模型。本发明解决了相关技术中在神经形态计算芯片上无法有效部署脉冲神经网络的技术问题。

    一种基于脉冲神经网络的视觉重建方法、装置、存储介质及终端

    公开(公告)号:CN115222794A

    公开(公告)日:2022-10-21

    申请号:CN202210631539.1

    申请日:2022-06-06

    Applicant: 北京大学

    Abstract: 本发明公开了一种基于脉冲神经网络的视觉重建方法、装置、存储介质及终端,方法包括:接收来自视觉传感器每个时间段的待处理连续脉冲阵列信号;将该信号进行离散化处理,生成携带时间信息的离散信号数据;将该离散信号数据输入预先训练的脉冲神经网络中,输出连续视觉图像;预先训练的脉冲神经网络是根据连续多个时间步长的脉冲阵列信号循环训练生成的,视觉图像是根据膜电位信息生成的,膜电位信息是对待处理连续脉冲阵列信号进行特征提取生成的。由于本申请通过基于多个时间步长的脉冲信号,并结合脉冲神经网络进行网络训练,使得网络可以提取出脉冲信号的膜电位信息,进而根据膜电位信息恢复出视觉图像,从而解决了脉冲阵列信号的视觉重建问题。

    基于脉冲重排深度残差神经网络的数据处理方法与装置

    公开(公告)号:CN115204356A

    公开(公告)日:2022-10-18

    申请号:CN202210520896.0

    申请日:2022-05-13

    Applicant: 北京大学

    Abstract: 本申请涉及脉冲神经网络与数据处理技术领域,更为具体来说,本申请涉及基于脉冲重排深度残差神经网络的数据处理方法与装置。所述方法包括:在基于脉冲重排深度残差神经网络中配置多个紧邻的脉冲重排残差模块;将配置脉冲重排残差块后的基于脉冲重排深度残差神经网络作为第一脉冲重排模型;训练所述第一脉冲重排模型;将目标数据输入训练好的第一脉冲重排模型中进行处理,得到目标处理结果。本申请的重排处理使得参数量大为减少,降低了过拟合风险,也减轻了存储和计算开销,进而提升了数据处理的效率。同时,本申请可以获取所述目标数据对应的类别,可以获得回归序列或回归单个向量,从而适用于多种应用场景。

Patent Agency Ranking