基于忆阻器老化感知的神经网络重训练和梯度稀疏方法

    公开(公告)号:CN114881218A

    公开(公告)日:2022-08-09

    申请号:CN202210427530.9

    申请日:2022-04-22

    Applicant: 浙江大学

    Abstract: 本发明公开了一种基于忆阻器老化感知的神经网络重训练和梯度稀疏方法,涉及延长忆阻器工作寿命和提高交叉阵列推理正确率的设计。对于交叉阵列老化后硬件在线推理正确率降低的问题,通过利用已知的忆阻器老化信息,计算得到当前老化情况下的可编程权重的最值,依此对神经网络模型进行重训练,从而提高当前硬件在线推理的正确率;重训练过程中,将超出可编程权重最值的网络权重进行自动截断;对于忆阻器寿命有限的问题,利用神经网络导数的稀疏性,在硬件调整过程中,将绝对值小的导数抛弃,从而保证小导数所对应的忆阻器不被施加电压,阻止忆阻器的老化过程,延长其使用寿命。

    基于忆阻器老化感知的神经网络重训练和梯度稀疏方法

    公开(公告)号:CN114881218B

    公开(公告)日:2025-04-18

    申请号:CN202210427530.9

    申请日:2022-04-22

    Applicant: 浙江大学

    Abstract: 本发明公开了一种基于忆阻器老化感知的神经网络重训练和梯度稀疏方法,涉及延长忆阻器工作寿命和提高交叉阵列推理正确率的设计。对于交叉阵列老化后硬件在线推理正确率降低的问题,通过利用已知的忆阻器老化信息,计算得到当前老化情况下的可编程权重的最值,依此对神经网络模型进行重训练,从而提高当前硬件在线推理的正确率;重训练过程中,将超出可编程权重最值的网络权重进行自动截断;对于忆阻器寿命有限的问题,利用神经网络导数的稀疏性,在硬件调整过程中,将绝对值小的导数抛弃,从而保证小导数所对应的忆阻器不被施加电压,阻止忆阻器的老化过程,延长其使用寿命。

Patent Agency Ranking