一种基于降低空间和通道特征冗余的可微分神经架构搜索方法

    公开(公告)号:CN119169344B

    公开(公告)日:2025-04-22

    申请号:CN202411145247.2

    申请日:2024-08-20

    Inventor: 王睿 尹善通 李芃

    Abstract: 本发明提供一种基于降低空间和通道特征冗余的可微分神经架构搜索方法,该方法包括首先定义搜索空间,在该搜索空间中寻找最优的神经网络架构;设计空间特征重构模块来消除空间特征冗余;使用自适应通道注意力模块通过快速一维卷积提取每个通道的重要性,根据计算出的注意力权重用于指导通道的去向;其中,注意力权重较高的通道被发送到操作空间,而其他通道则直接与操作空间的输出接触,以平衡信息保留和计算效率;将搜索到的最佳网络架构单元进行堆叠,重新构建并训练神经网络模型,进而实现图像的分类任务。本发明在轻量级、高效性、动态通道选择、信息保留与计算效率平衡、易于扩展与泛化以及提升图像分类性能等方面均展现出显著的优势。

    一种基于降低空间和通道特征冗余的可微分神经架构搜索方法

    公开(公告)号:CN119169344A

    公开(公告)日:2024-12-20

    申请号:CN202411145247.2

    申请日:2024-08-20

    Inventor: 王睿 尹善通 李芃

    Abstract: 本发明提供一种基于降低空间和通道特征冗余的可微分神经架构搜索方法,该方法包括首先定义搜索空间,在该搜索空间中寻找最优的神经网络架构;设计空间特征重构模块来消除空间特征冗余;使用自适应通道注意力模块通过快速一维卷积提取每个通道的重要性,根据计算出的注意力权重用于指导通道的去向;其中,注意力权重较高的通道被发送到操作空间,而其他通道则直接与操作空间的输出接触,以平衡信息保留和计算效率;将搜索到的最佳网络架构单元进行堆叠,重新构建并训练神经网络模型,进而实现图像的分类任务。本发明在轻量级、高效性、动态通道选择、信息保留与计算效率平衡、易于扩展与泛化以及提升图像分类性能等方面均展现出显著的优势。

Patent Agency Ranking