-
公开(公告)号:CN119578468A
公开(公告)日:2025-03-07
申请号:CN202411646485.1
申请日:2024-11-18
Applicant: 浙江工业大学
Abstract: 本发明公开了一种基于自适应梯度的脉冲神经网络训练方法,首先构建采用LIF模型神经元的待训练脉冲神经网络,将数据集样本分批次输入待训练脉冲神经网络;然后获取待训练脉冲神经网络中每一层所有神经元的突触前输入和每一层所有神经元的膜电位,通过关联函数将代理梯度的宽度与膜电位的统计特性相关联,自适应调整每一层代理梯度的宽度;最后计算脉冲神经网络输出层与样本标签的交叉熵损失,进行梯度反向传播,更新突触权重。本发明有效地缓解了因代理梯度函数宽度固定而导致的梯度消失或者不匹配问题,网络单次推理需要消耗的能量少,所训练的网络具有优异的分类性能。
-
公开(公告)号:CN115620026A
公开(公告)日:2023-01-17
申请号:CN202211407403.9
申请日:2022-11-09
Applicant: 浙江工业大学
IPC: G06V10/44 , G06V10/764 , G06V10/82 , G06N3/08 , G06N3/0464 , G06N3/049
Abstract: 本发明公开了一种基于脉冲神经元的自适应卷积自动编码方法,包括:步骤1:原始图像经过第一卷积层提取特征并批标准化得到特征图,再输入至脉冲神经元发放脉冲得到各个预设定的编码时间窗口的原始图像脉冲编码序列;步骤2:通过脉冲像素值映射方法进行解码获得解码图像,比较编码时间窗口变化时解码图像与原始图像的相似度,自动找到自适应卷积脉冲编码处理不同数据集的最佳编码时间窗口;步骤3:基于最佳编码时间窗口,完成自适应卷积脉冲编码预训练。本发明方法可以自动找到处理不同数据集的最佳编码时间窗口,且能够在网络训练过程中,不断优化自适应卷积脉冲编码参数,以更好的表征捕获的外部刺激,最大限度地保留原始图像信息。
-