公开(公告)号：CN119918589A

公开(公告)日：2025-05-02

申请号：CN202411996345.7

申请日：2024-12-31

Applicant: 宜宾电子科技大学研究院 ,  宜宾市公安局

Inventor： 兰亚军 ,  邓媛丹 ,  陈圩钦 ,  罗军 ,  陈旺 ,  陈波

IPC: G06N3/0464 ,  G06N3/048 ,  G06N3/084 ,  G06V10/82 ,  G06V10/764

Abstract: 本发明提出跨范围的深度神经网络参数混合量化方法，属于量化技术领域，以解决现有技术中的量化方法会使得模型的性能显著下降的问题，包括：步骤1：在深度神经网络模型训练的过程中，通过PACT量化方法对深度神经网络进行激活量化；步骤2：在神经网络模型训练完成之后，使用优化后的LSQ量化方法对神经网络模型的权值进行量化，并且对于量化过程中超过量化范围的数值进行筛选并量化，保留了这部分数值的信息。本发明中，分别对激活值和权值使用不同的量化方法，充分考虑网络中不同输出层的作用。

公开(公告)号：CN119830947A

公开(公告)日：2025-04-15

申请号：CN202411893978.5

申请日：2024-12-20

Applicant: 宜宾电子科技大学研究院

Inventor： 兰亚军 ,  陈圩钦 ,  邓媛丹 ,  毛艳玲 ,  袁理 ,  陈波

IPC: G06N3/042 ,  G06N3/082 ,  G06N3/084

Abstract: 本发明提出一种深度神经网络参数动态量化压缩方法及系统，属于参数量化技术领域，以解决现有技术都是基于参数的值大小进行划分，忽略了值小的参数在网络中的作用的问题。包括步骤1：基于图神经网络建立深度神经网络模型对应的级联失效模型；步骤2：对级联失效模型进行初始化，基于初始化后的级联失效模型选取深度神经网络模型中的重要节点；步骤3：计算重要节点的参数的分散程度f，根据计算出的f值的所属区间，选择不同的参数量化过程中的宽度。