-
公开(公告)号：CN111340179A
公开(公告)日：2020-06-26
申请号：CN202010012122.8
申请日：2020-01-07
Applicant: 中国科学院计算技术研究所
Abstract: 本发明提供一种卷积神经网络拓扑方法，利用已训练参数经验对神经网络结构进行拓扑，包括：获取待拓扑的卷积神经网络，对其训练多次，验证并记录其在图像测试集上的准确率；对训练后的卷积神经网络进行一次或多次拓扑得到待拓扑卷积神经网络对应的复杂卷积神经网络，其中，第一次拓扑是从预设的拓扑方式中随机选择一种方式对待拓扑的卷积神经网络进行拓扑操作，从第二次拓扑开始的每次拓扑是从预设的拓扑方式中随机选择一种方式对上一次拓扑后的卷积神经网络进行拓扑操作。本发明适用于图像分类数据集上任何卷积神经网络的结构拓扑，本发明的实现的最终效果是神经网络是功能保持的，尽管网络复杂度有所提升，但是对于同样的输入网络具有同样的输出。
-
公开(公告)号：CN111242268A
公开(公告)日：2020-06-05
申请号：CN202010012084.6
申请日：2020-01-07
Applicant: 中国科学院计算技术研究所
Abstract: 本发明提供一种搜索卷积神经网络的方法，包括：构建初始卷积神经网络并训练至收敛，其中所述初始卷积神经网络包括一个或多个进化模块、全局平均池化层、全连接层；以训练后的初始卷积神经网络为基础进行多次迭代突变以得到多个突变卷积神经网络，其中，单次突变是从预设的突变方式中随机选择一种突变方式对当前卷积神经网络中的所有进化模块的结构同时进行突变后对整个卷积神经网络进行训练至收敛得到一个新的突变卷积神经网络，每次突变得到一个突变卷积神经网络；从步多个突变卷积神经网络中选择适应度最大的突变卷积神经网络作为搜索结果。采用本发明可以根据已有网络结构和参数方面的经验，有方向性地改变神经网络结构，并减少训练消耗。
-
公开(公告)号：CN110991621A
公开(公告)日：2020-04-10
申请号：CN201911282344.5
申请日：2019-12-13
Applicant: 中国科学院计算技术研究所
Abstract: 本发明提供一种基于通道数搜索卷积神经网络的方法，包括：构建与待优化卷积神经网络的卷积层层数相同的初始卷积神经网络，并将该初始卷积神经网络每层的初始通道数设为相同数值并使初始卷积神经网络的初始通道数不超过待优化卷积神经网络的最小通道数，训练该初始卷积神经网络至收敛；对初始卷积神经网络进行多次突变以得到多个突变卷积神经网络，其中，单次突变是从预设的增量函数中随机选择一个增量函数对该次突变中的卷积神经网络的卷积层通道数进行增量变换后训练至收敛得到一个突变卷积神经网络；从多个突变卷积神经网络中选择图像分类准确率最高的突变卷积神经网络作为搜索结果。本发明可以从一个初始小规模网络，在控制网络参数量的同时迅速搜索产生性能较高的卷积神经网络，并大大减少训练消耗。
-
公开(公告)号：CN110782006A
公开(公告)日：2020-02-11
申请号：CN201910952242.3
申请日：2019-10-09
Applicant: 中国科学院计算技术研究所
IPC: G06N3/04
Abstract: 本发明提供一种生成复杂神经网络的方法，包括：1)从已有的神经网络结构的种群中选择具有高适应度的两个作为父代个体，其中，所述两个父代个体之间具有以卷积层为单位的异构结构；2)将一个卷积层作为最小的操作单位，对所述两个父代个体执行交叉操作以得到子代个体。本发明可以根据已有网络结构方面的经验，有方向性地改变神经网络结构。本发明在不对卷积神经网络进行任何附加训练的情况下，可以实现功能保持，大大节省计算代价。如果对卷积神经网络进行额外训练，可以体现出新产生的神经结构表现更加优秀。在同源结构进行融合的过程中，本发明将已有参数和结构作为指导，能够迅速实现基于功能保持的神经网络结构搜索。
-
-
-
Search Results
4
records
(took 0.033 seconds)
