-
公开(公告)号：CN114021641A
公开(公告)日：2022-02-08
申请号：CN202111291000.8
申请日：2021-11-03
Applicant: 中国矿业大学
Abstract: 本发明公开了一种极大极小概率回归的正则化宽度学习系统，属于人工智能技术领域。本发明包括：获得训练数据，并通过特征映射和增强映射获得原始数据的高维特征，基于特征数据的均值和协方差信息得到预测精度满足误差要求的概率下限。在不存在随机误差分布假设的情况下，通过最大化所得到的概率下界来计算最终的输出权重。然后通过在损失函数中加入弹性网正则化来对输出权重进行进一步的约束，将l1范数和l2范数集成到一个统一的框架中。本发明改善了分布假设对所建立的宽度学习系统模型的泛化和有效性产生影响的问题，并且增强输出权值的稀疏性，控制模型的复杂性，提高了模型的泛化性和鲁棒性。
-
公开(公告)号：CN111680846A
公开(公告)日：2020-09-18
申请号：CN202010547848.1
申请日：2020-06-16
Applicant: 中国矿业大学
Abstract: 一种基于L1和L2范数的简化宽度学习系统，具体方法如下：步骤1：获取训练输入数据 与训练输出数据 获取测试输入数据与测试输出数据其中，N1、N2分别为训练测试数据样本数目，T1、T2分别为输入和输出数据的维度；步骤2：构建宽度模型；步骤3：替换标准宽度学习系统目标函数 中的正则项以此作为新的目标函数，其中 步骤4：对于新的目标函数，采用增广拉格朗日乘子法迭代求解输出权重W；步骤5：根据公式 得到简化的宽度学习系统的输出Y；其中，Wm为连接特征节点层与增强节点层到输出层的权值整体，由W连接所得。该系统能有效简化宽度学习系统的网络结构，可有效去除与结果相关性低的节点，能适应复杂工业过程中相关指标的预测需求。
-
Patent Agency Ranking
公开(公告)号：CN113361711A
公开(公告)日：2021-09-07
申请号：CN202110734236.8
申请日：2021-06-30
Applicant: 中国矿业大学
Abstract: 一种多样性驱动的集成宽度学习系统，通过获取训练数据并对其进行预处理；随机生成的权值和偏差生成特征节点组和增强节点组，在损失函数中加入多样性正则化项来约束各模型之间的输出权重参数的多样性，在训练得到一个标准宽度学习系统后，不用重新得到扩展输入矩阵，只对输出权重进行多样性约束，顺序生成多个具有互补性的子模型，增加模型间差异性，得到一个多样性较高的集成模型，根据测试精度来评估模型的预测性能效果，本发明改善了单个宽度学习系统对复杂高维数据性能较差以及随机操作带来的不稳定性的问题，提高了模型的预测精度，提升了模型的泛化性与鲁棒性。
-
公开(公告)号：CN113361708A
公开(公告)日：2021-09-07
申请号：CN202110629940.7
申请日：2021-06-07
Abstract: 本发明公开了一种宽度学习系统量化方法，属于神经网络量化方法技术领域。本发明包括以下步骤：首先获得输入输出数据，其次提供量化权重的选择标准，然后结合搜索方法获得随机权重被量化后的最佳模型，最后对输出权重量化，最终获得一个轻量化的宽度学习系统模型。本发明使用了动态的权重量化方式，通过在训练过程中设置权重量化时可选择的最大比特，从而动态选择出和浮点权重最优匹配的整型权重；最后，交替进行输出权重的分组量化和浮点权重再训练直到全部权重量化同时模型收敛为止。本发明在保持甚至提升模型性能的同时可以得到一个轻量级宽度学习系统，使其更易部署在移动端等边缘应用上。
-
公开(公告)号：CN111709523A
公开(公告)日：2020-09-25
申请号：CN202010566164.6
申请日：2020-06-19
Applicant: 中国矿业大学
Abstract: 一种基于内部集成的宽度学习方法，通过获取训练数据，包括训练输入数据和训练输出数据，并对其进行预处理；再对训练输入数据进行特征提取，形成n组特征节点并构造特征节点矩阵Zn，将特征节点进行非线性增强共得到m组增强节点；将特征节点矩阵分别与不同组增强节点组合得到各个模型的隐藏层输出矩阵，共得到k组宽度学习系统模型；通过一次训练实现多个模型的集成学习，使其在基本不增加额外训练时间的情况下，将宽度学习与集成学习融合到了一起，改善了宽度学习中由于随机操作带来的搜索过程不完善和数据具有随机性、波动性的问题，提高了宽度学习系统的泛化性和稳定性，与普通集成方法相比，降低了实现集成学习的成本，提高了训练效率。
-
公开(公告)号：CN110222453A
公开(公告)日：2019-09-10
申请号：CN201910516031.5
申请日：2019-06-14
Applicant: 中国矿业大学
IPC: G06F17/50
Abstract: 一种基于宽度学习系统的压缩机出口参数预测建模方法，采集数据并对其进行预处理；利用宽度学习系统构建压缩机的出口参数预测模型，设定宽度学习系统的特征节点组数为n，每组k个特征节点，增强节点组数为m，每组q个增强节点，进行建模；在有新的训练数据输入模型时，利用增量学习算法对原有模型进行在线的更新，设新的训练数据的输入数据矩阵为Xa∈Ra*M，输出数据矩阵为Ya∈Ra*C，其中，a表示新增加训练数据的个数，进行模型更新；利用均方根误差对所构建的模型进行验证。该方法能快速地建立大型压缩机性能预测模型，能有效地节省模型的开发时间与成本。
-
公开(公告)号：CN111598236A
公开(公告)日：2020-08-28
申请号：CN202010430858.7
申请日：2020-05-20
Applicant: 中国矿业大学
IPC: G06N3/08
Abstract: 本发明公开一种宽度学习系统网络模型压缩方法，包括以下步骤：获得输入数据和输出数据；生成增广输入矩阵；构建出含有L1正则化项和L1-fusion项的目标函数。利用L1正则化项的约束实现输出权值稀疏，使得贡献度小的节点对应的输出权值为零，选择出贡献度大的节点；利用L1-fusion项约束相邻输出权值之间的差异，使得具有相关性的节点对应的输出权值变化平滑，从而被一起选择；求出经上述约束的输出权值，得到一个CBLS网络模型；根据测试集均方根误差的大小和网络结构压缩率来评估模型的预测精度和压缩效果，选择最优的网络模型，作为压缩后的网络模型。本发明能够在保持精度损失不大的同时，呈现出非常好的压缩效果。
-
-
-
-
-
-
Search Results
7
records
(took 0.019 seconds)
