搜索空间的生成方法及装置、电子设备及存储介质

    公开(公告)号:CN112100468A

    公开(公告)日:2020-12-18

    申请号:CN202011023784.1

    申请日:2020-09-25

    Inventor: 希滕 张刚 温圣召

    Abstract: 本申请公开了搜索空间的生成方法、搜索方法及装置、电子设备及存储介质,涉及人工智能领域、计算机视觉、深度学习以及智能云技术等领域。其中,搜索空间的生成方法,其具体实现方案为:根据至少一种搜索空间的生成策略,得到至少一个搜索空间;对所述至少一个搜索空间迭代更新,根据迭代更新至迭代收敛所得到训练后的至少一个搜索空间得到目标搜索空间。采用本申请,至少可以提高诸如处理速度、处理精度等硬件性能。

    生成搜索空间的方法、装置、设备及存储介质

    公开(公告)号:CN112100466A

    公开(公告)日:2020-12-18

    申请号:CN202011020815.8

    申请日:2020-09-25

    Inventor: 希滕 张刚 温圣召

    Abstract: 本申请公开了生成搜索空间的方法、装置、设备及存储介质,计算机技术中的深度学习、计算机视觉等人工智能领域。具体实现方案为:初始搜索空间包含目标模型各层的搜索空间,每层的搜索空间包含所有网络结构单元的选项,极大地扩展了搜索空间;将每层的搜索空间中的所有选项以相同的连接权重叠加构成初始超网络,训练更新初始超网络的模型参数和各层中选项对应的连接权重;根据训练后的超网络的各层中选项对应的连接权重确定最优搜索空间,基于最优搜索空间可以搜索得到最优目标模型,提升所获得的目标模型的性能,使得目标模型的精度更高,且应用于图像处理、自然语言处理、音/视频处理等时数据处理的速度较快。

    搜索空间的生成方法及装置、电子设备及存储介质

    公开(公告)号:CN112100459A

    公开(公告)日:2020-12-18

    申请号:CN202011026459.0

    申请日:2020-09-25

    Inventor: 希滕 张刚 温圣召

    Abstract: 本申请公开了搜索空间的生成方法、基于概率分布的搜索方法及装置、电子设备及存储介质,涉及人工智能领域、计算机视觉、深度学习以及智能云技术等领域。其中,搜索空间的生成方法,其具体实现方案为:根据至少一种搜索空间的生成策略,得到至少一个搜索空间;对所述至少一个搜索空间,根据搜索空间性能的概率分布进行迭代更新,根据迭代更新至迭代收敛所得到训练后的至少一个搜索空间得到目标搜索空间。采用本申请,至少可以提高诸如处理速度、处理精度等硬件性能。

    正则化线性回归生成方法、装置、电子设备及存储介质

    公开(公告)号:CN111914995A

    公开(公告)日:2020-11-10

    申请号:CN202010561790.6

    申请日:2020-06-18

    Inventor: 希滕 张刚 温圣召

    Abstract: 本申请公开了正则化线性回归生成方法、装置、电子设备及存储介质,涉及人工智能技术和深度学习领域,可应用于图像处理。具体方案为:生成线性回归搜索空间,根据线性回归搜索空间生成待训练正则化线性回归,并对待训练正则化线性回归进行训练并进行性能评估,当评估结果不满足评分要求时对待训练正则化线性回归进行迭代更新,直至评估结果满足评分要求或对待训练正则化线性回归的迭代更新次数达到预设迭代次数。通过本申请实现了正则化线性回归的自动生成,在线性回归搜索空间中进行自动搜索以生成正则化线性回归,使得正则化线性回归中特征的正则化项是独立的,从而得到的正则化线性回归具备优化的正则约束,能保证正则化线性回归模型的性能。

    决策树的生成方法、装置、电子设备及存储介质

    公开(公告)号:CN111914880A

    公开(公告)日:2020-11-10

    申请号:CN202010560643.7

    申请日:2020-06-18

    Inventor: 希滕 张刚 温圣召

    Abstract: 本申请公开了决策树的生成方法、装置、电子设备及存储介质,涉及人工智能技术和深度学习领域,可应用于图像处理。具体实现方案为:先生成决策树搜索空间,再根据决策树搜索空间生成待训练决策树;接着,对待训练决策树进行训练并进行性能评估,当评估结果不满足评分要求时对待训练决策树进行迭代更新,直至评估结果满足评分要求或者对待训练决策树的迭代更新次数达到预设迭代次数。通过本申请实现了决策树的自动生成,在决策树搜索空间中进行自动搜索以生成决策树,可以使得最终生成的决策树的整体性能较好,避免了现有技术中基于贪婪策略生成的决策树仅能使得子节点相对于父节点较优,无法保证决策树的整体性能优的问题,提高了决策树的鲁棒性。

    基于超网络的模型获取方法、装置、设备及存储介质

    公开(公告)号:CN111783951A

    公开(公告)日:2020-10-16

    申请号:CN202010606935.X

    申请日:2020-06-29

    Inventor: 希滕 张刚 温圣召

    Abstract: 本申请公开了基于超网络的模型获取方法、装置、设备及存储介质,涉及深度学习、计算机视觉和图像处理。具体实现方案为:获取至少两个超网络,至少两个超网络对应的网络结构相同,至少两个超网络的参数不同;基于至少两个超网络的参数,训练目标子网络,得到损失函数,目标子网络为随机从网络结构的搜索空间中选择的子网络;根据损失函数,更新至少两个超网络的参数;根据更新后的至少两个超网络,确定目标模型。在基于超网络的模型获取过程中通过自监督对超网络的参数的反向传播,来提升目标模型的性能,使得目标模型的精度较高,且处理图像的速度较快;进一步地,目标模型在硬件上的处理速度快就能使用较便宜的芯片,从而节省部署成本。

    神经网络的训练方法和装置

    公开(公告)号:CN111753964A

    公开(公告)日:2020-10-09

    申请号:CN202010601850.2

    申请日:2020-06-29

    Inventor: 希滕 张刚 温圣召

    Abstract: 本申请公开了神经网络的训练方法和装置,涉及人工智能、深度学习技术领域,可用于图像处理。具体实施方式包括:获取待训练的神经网络;确定搜索空间,其中,搜索空间用于确定神经网络在训练中学习率的衰减方式,不同的衰减方式所对应的、学习率的衰减参数的参数值不同;基于各个候选衰减方式,在搜索空间中搜索一个候选衰减方式作为目标衰减方式,其中,每次搜索基于不同的衰减方式且对神经网络进行至少两个轮次迭代的训练。本申请可以在搜索空间中搜索出学习率在训练中的衰减方式,从而可以提升确定衰减方式的效果,以得到更加适于神经网络收敛的衰减方式,提升了收敛速度。

    模型生成方法、装置、电子设备及存储介质

    公开(公告)号:CN111753761A

    公开(公告)日:2020-10-09

    申请号:CN202010599287.X

    申请日:2020-06-28

    Inventor: 希滕 张刚 温圣召

    Abstract: 本申请公开了模型生成方法、装置、电子设备及存储介质,涉及人工智能中深度学习、云计算及计算机视觉领域,具体用于戴口罩人脸检测方面。具体实现方案为:获取第一模型;执行N次迭代操作搜索得到目标模型;其中,N为大于等于2的整数;其中,所述N次迭代操作中的第i次迭代操作包括:基于激活函数搜索空间以及第i个激活函数编码生成器确定第i个激活函数,基于所述第i个激活函数、以及所述第一模型,对第二模型进行第i次迭代操作;其中,所述第二模型的网络复杂度低于第一模型的网络复杂度;若迭代操作的次数达到预设的次数阈值N,则将所述第i次迭代操作中得到的第二模型的量化后的模型,作为所述目标模型。

    模型生成方法、装置、电子设备及存储介质

    公开(公告)号:CN111753758A

    公开(公告)日:2020-10-09

    申请号:CN202010599153.8

    申请日:2020-06-28

    Inventor: 希滕 张刚 温圣召

    Abstract: 本申请公开了模型生成方法、装置、电子设备及存储介质,涉及人工智能中深度学习、云计算及计算机视觉领域,具体用于戴口罩人脸检测方面。具体实现方案为:获取第一模型以及待训练的第二模型;其中,所述待训练的第二模型的网络复杂度低于第一模型;基于所述第一模型以及待训练的第二模型进行多次第一迭代处理,得到第二模型;对所述第二模型进行量化处理得到目标模型。

    神经网络模型的量化方法和装置

    公开(公告)号:CN111738419A

    公开(公告)日:2020-10-02

    申请号:CN202010568260.4

    申请日:2020-06-19

    Inventor: 希滕 张刚 温圣召

    Abstract: 本申请公开了神经网络模型的量化方法和装置,涉及人工智能、深度学习和图像处理技术领域。该方法的一具体实施方式包括:基于当前的量化映射函数,对待量化的神经网络模型进行量化并测试基于当前的量化映射函数量化得到的当前量化后神经网络模型的性能,量化映射函数为预设的函数;基于当前量化后神经网络模型的性能对待量化的神经网络模型的参数和当前的量化映射函数的参数进行迭代调整;响应于确定当前量化后神经网络模型满足预设的收敛条件,确定当前量化后神经网络模型为目标神经网络模型。该实施方式提升了量化后神经网络模型的精度。

Patent Agency Ranking