基于多模型贝叶斯优化的机器学习模型超参数调优方法

    公开(公告)号:CN116862013A

    公开(公告)日:2023-10-10

    申请号:CN202310439033.5

    申请日:2023-04-21

    Inventor: 周睿哲 钟竞辉

    Abstract: 本发明公开了一种基于多模型贝叶斯优化的机器学习模型超参数调优方法,包括:采样获取初始数据集,进入一个循环;引入一个参数,在每次循环中更新,使用其划分数据集,给样本分配标签,构建辅助数据集;建立额外加权后的损失函数,利用辅助数据集和损失函数训练一个分类器,使用L‑BFGS‑B算法优化它,获得极值点;计算机器学习模型在极值点处的得分,更新初始数据集,在计算资源没有耗尽时继续循环;循环结束后将数据集中最优的点对应的超参数组合返回,即是要寻找的最优的机器学习模型的超参数。本发明基于分类器模型和概率密度估计,改进了贝叶斯优化,实现了多代理模型的贝叶斯优化,具有很强的灵活性和广泛的应用场景。

Patent Agency Ranking