用于联机手写字符识别模型的量化方法、装置及存储介质

    公开(公告)号:CN119106714A

    公开(公告)日:2024-12-10

    申请号:CN202411215583.X

    申请日:2024-09-02

    Abstract: 本申请实施例提供一种用于联机手写字符识别模型的量化方法、装置及存储介质,该方法包括:向预先训练好的卷积神经网络模型中插入用于计算量化参数的量化器,对所述卷积神经网络模型中的每个卷积层和全连接层的权值及输入激活值进行量化处理,生成量化模型;采用逐层重建和/或逐块重建方法对所述量化模型进行重建,通过多次迭代计算损失,逐步优化所述量化模型,直至生成目标模型。本申请实施例能够在降低神经网络模型比特精度的同时保持高性能,并加速网络的推理过程,此外还能够降低位宽,为深度神经网络适应不同硬件条件提供有效途径。

Patent Agency Ranking