-
公开(公告)号：CN113312855B
公开(公告)日：2021-12-10
申请号：CN202110854074.1
申请日：2021-07-28
Applicant: 北京大学
Abstract: 本发明涉及一种基于搜索空间分解的机器学习优化方法、电子设备及介质，本方法包括：构造模块抽象，用于固定搜索空间中部分超参数的取值，优化所述搜索空间中剩余的超参数，以最小化评价指标，从而求解子空间优化问题；其中根据固定的不同的超参数，所述构造模块抽象的实例包括联合模块，条件模块和交替模块。本发明通过使用构造模块抽象以及三种构造模块抽象的实例，可以将庞大的空间拆分成多个子空间，使用构造模块拆分空间将问题转化为每次优化迭代选择待优化子空间，并在相对较小的子空间中选择配置，从而提升了机器学习配置的搜索效率。
-
公开(公告)号：CN113312855A
公开(公告)日：2021-08-27
申请号：CN202110854074.1
申请日：2021-07-28
Applicant: 北京大学
Abstract: 本发明涉及一种基于搜索空间分解的机器学习优化方法、电子设备及介质，本方法包括：构造模块抽象，用于固定搜索空间中部分超参数的取值，优化所述搜索空间中剩余的超参数，以最小化评价指标，从而求解子空间优化问题；其中根据固定的不同的超参数，所述构造模块抽象的实例包括联合模块，条件模块和交替模块。本发明通过使用构造模块抽象以及三种构造模块抽象的实例，可以将庞大的空间拆分成多个子空间，使用构造模块拆分空间将问题转化为每次优化迭代选择待优化子空间，并在相对较小的子空间中选择配置，从而提升了机器学习配置的搜索效率。
-
公开(公告)号：CN113296918A
公开(公告)日：2021-08-24
申请号：CN202110847670.7
申请日：2021-07-27
Applicant: 北京大学
Abstract: 本发明涉及一种求解通用黑盒优化问题的计算机系统、方法及电子设备。该方法包括：由用户向服务主机提交优化任务；由所述服务主机根据负载均衡分配建议服务器，将任务信息与所述建议服务器绑定；以及由所述用户提供的验证工作者与所述建议服务器交互，持续从所述建议服务器拉取新配置，进行验证，并将结果更新至所述建议服务器，直至所述优化任务结束。本发明通过实现分布式黑盒优化的服务架构、基于局部惩罚机制的分布式并行框架以及基于验证历史的迁移学习方法，提供了一种分布式的、高容错的、可扩展的、高效的系统，获得的性能和效率优于现有系统。
-
公开(公告)号：CN114065943A
公开(公告)日：2022-02-18
申请号：CN202111176055.4
申请日：2021-10-09
Applicant: 北京大学 , 北京达佳互联信息技术有限公司
IPC: G06N20/00
Abstract: 本公开关于一种超参数处理方法、装置、电子设备及存储介质，所述方法包括：获取与历史超参数对应的历史验证结果；所述历史验证结果用于表征与所述历史超参数对应的已训练模型的性能数据；所述与所述历史超参数对应的已训练模型基于所述历史超参数对待训练模型进行训练得到；基于所述历史验证结果对未返回验证结果的目标超参数进行验证结果插补，得到所述目标超参数的插补结果；基于所述历史验证结果，以及所述目标超参数的插补结果，生成待验证超参数；将所述待验证超参数发送至队列；从所述队列中获取对所述待验证超参数的验证结果。本公开能够解决对超参数空间的探索性下降以及浪费验证资源的问题。
-
-
-
Search Results
4
records
(took 0.021 seconds)
