一种深度卷积神经网络快速自动压缩方法

    公开(公告)号:CN111860779A

    公开(公告)日:2020-10-30

    申请号:CN202010659862.0

    申请日:2020-07-09

    IPC分类号: G06N3/04 G06N3/063 G06N3/08

    摘要: 本发明公开了一种深度卷积神经网络快速自动压缩方法。针对优化目标和待优化模型搜索找到最优模型量化方案:初始化强化学习代理和环境,完成达到指定搜索轮数则输出最优模型;反之单轮搜索。在单轮搜索中,确定每一个可量化层的零比特通道索引和通道最小比特数,计算当前模型该层的量化方案以及量化后模型大小。如果当前可量化层是最后一层且不满足优化目标则调整模型量化方案至满足优化目标或不能调整为止;反之评估量化方案并保存环境参数,若当前可量化层不是最后一层,则继续单轮搜索;反之若当前模型量化方案最优,则保存量化方案为最优模型量化方案。避免了大量人为调参,不需要进行网络减枝与网络量化达成硬件要求,能够快速得到压缩网络。

    一种基于神经元可塑性的神经网络评估优化方法及系统

    公开(公告)号:CN116882461A

    公开(公告)日:2023-10-13

    申请号:CN202311118140.4

    申请日:2023-09-01

    IPC分类号: G06N3/0495 G06N3/082

    摘要: 本发明公开了一种基于神经元可塑性的神经网络评估优化方法及系统,包括深度神经网络结构压缩与深度神经网络参数优化:获取验证数据集,训练数据集和已训练的待压缩深度神经网络及参数;计算待压缩深度神经网络中神经元集群的可塑性及神经元重要性;计算神经元集群中必要神经元数量;根据必要神经元数量及各神经元重要性,获取未优化压缩后深度神经网络;计算压缩前后深度神经网络的神经微环路塑造差异;根据压缩前后的神经微环路塑造差异优化网络权重,得到已优化压缩后深度神经网络;本发明设计了一种轻量化深度神经网络并将其应用于自然图像分类,符合生物性且解释性更强,具有运算资源开销低,图像处理精度高的特点。

    一种面向单通道图像的高性能深度学习模型及训练方法

    公开(公告)号:CN116206182A

    公开(公告)日:2023-06-02

    申请号:CN202310003660.4

    申请日:2023-01-03

    摘要: 一种面向单通道图像的高性能深度学习模型及训练方法,该模型包括低维多尺度感受野模块和多个高维多尺度感受野模块;该训练方法包括:根据所述深度学习模型结构,构建基础检测模型和优化检测模型;获取单通道图像数据集,并通过单通道图像数据集对基础检测模型进行训练;将单通道图像分别输入至训练好的基础检测模型和优化检测模型,根据预测结果确定有效标签集合;根据真值标签对有效标签集合进行校正,筛选校正标签集;根据校正标签集、真值标签和单通道图像对优化检测模型进行训练,得到最终目标检测模型;本发明通过剔除无效标签、虚警标签与弱标签加速深度学习网络训练速度,并且能够解决各类目标以及目标与背景相似时造成的错检和虚警问题。