基于时序二分图神经网络的用户缺失属性补全方法与系统

    公开(公告)号:CN116881716A

    公开(公告)日:2023-10-13

    申请号:CN202310851553.7

    申请日:2023-07-12

    申请人: 浙江大学

    摘要: 基于时序二分图神经网络的用户缺失属性补全方法,首先,对时序用户属性矩阵进行预处理,进行数据归一化,并记录分类变量和连续变量。然后将时序用户属性矩转化为时序二分图结构,并采用图卷积神经网络来聚合提取图中节点嵌入向量和边嵌入向量,并使用LSTM融合不同时间步的节点特征;将时序二分图中预测边的两端节点的图特征拼接作为用户节点‑属性节点的边预测模型的输入;采用多个线性层构建边预测模型,引入多任务学习框架同时学习分类任务和回归任务,从而灵活处理分类变量和连续变量。最后,通过该框架来对用户缺失属性进行补全,并将结果写回原数据中。本发明还包括基于时序二分图神经网络的用户缺失属性补全方法的系统。

    面向电力巡检场景的基于特征匹配的轻量化单样本目标检测方法

    公开(公告)号:CN115761453A

    公开(公告)日:2023-03-07

    申请号:CN202211285599.9

    申请日:2022-10-20

    申请人: 浙江大学

    摘要: 一种面向电力巡检场景的基于特征匹配的轻量化单样本目标检测方法,包括下列步骤:1)基于掩码的基类别目标检测模型训练;2)新类别标注样本的数据增强;3)新类别标注样本的特征提取;4)模型在测试数据上的初步推理;5)使用传统特征修正推理结果。通过上述步骤,本发明实现了在每个类别标注样本极其稀少情况下(1个)的目标检测,并克服了传统单样本目标检测中依赖于测试图像类别先验知识的问题,同时还使用神经架构搜索,在尽量保持模型性能的同时减少模型的参数量。

    一种基于模型权重混合的在线知识蒸馏方法及系统

    公开(公告)号:CN115731433A

    公开(公告)日:2023-03-03

    申请号:CN202211503704.1

    申请日:2022-11-28

    摘要: 一种基于模型权重混合的在线知识蒸馏方法及系统,包括:1)服务端收集标注数据,划分为训练集和验证集;2)选取N个相同架构的学生模型,并通过线性加权学生参数构建权重混合模型;3)选取数据增强将训练集扩充成N+1份,分别输入N个学生和权重混合模型中,得到N+1个预测输出以及他们的平均集成预测;4)计算每个学生和权重混合模型的分类损失;5)计算每个学生输出与集成预测之间的知识蒸馏损失;6)计算每个学生的参数优化目标并更新N个学生的参数;7)重复3‑6步骤,每个轮次后根据更新后的学生重新构建混合权重模型,并每隔固定轮次Δ,将混合权重模型的参数融合到学生中;8)选取验证集上表现最优的模型部署到终端设备上。

    通过投射特征训练多任务学生网络的知识融合方法

    公开(公告)号:CN110097084B

    公开(公告)日:2021-08-31

    申请号:CN201910264911.8

    申请日:2019-04-03

    申请人: 浙江大学

    IPC分类号: G06K9/62 G06N3/04 G06N3/08

    摘要: 通过投射特征训练多任务学生网络的知识融合方法,由以下步骤组成:首先初始化TargetNet(目标学生网络)的结构与教师网络相同,通过通道编码,将TargetNet中融合的特征图投射为对应任务的特征图;逐个训练TargetNet中与教师网络对应的block,得到融合的特征图;确定TargetNet中不同任务开始分支的各自位置;将教师网络中的对应block加入学生网络,作为不同任务的分支,并移除TargetNet中末端的block,得到TargetNet最终结构;最后调优学生网络。本方法能够使用无标签数据集,融合多个不同任务的教师网络,得到性能优越的轻量级学生网络。

    一种基于知识重组的深度模型定制方法

    公开(公告)号:CN111160124A

    公开(公告)日:2020-05-15

    申请号:CN201911265084.0

    申请日:2019-12-11

    申请人: 浙江大学

    IPC分类号: G06K9/00 G06K9/62

    摘要: 一种基于知识重组的深度模型定制方法,包括:1)收集已有训练好的深度人脸属性识别模型,构建人脸属性识别模型库,将各类模型进行分组归类;2)根据当前对人脸属性识别的任务需求,将目标任务分解为一系列识别不同人脸属性的“组件任务”,并从深度模型库中选择相关的模型;3)对选中的人脸属性识别模型,进行知识过滤,将多个深度模型中,与“组件任务”相关的知识合并到“组件网络”中;4)对“组件网络”进行组合,得到最终的“目标网络”。本发明利用现有深度模型的知识,逐过程指导新模型的学习,有效减少对数据标注、数据量的依赖,降低训练新深度模型耗费的周期和资源。

    一种基于正则化的在线指数凹优化方法

    公开(公告)号:CN116842708A

    公开(公告)日:2023-10-03

    申请号:CN202310718754.X

    申请日:2023-06-16

    申请人: 浙江大学

    摘要: 一种基于正则化的在线指数凹优化方法,包含:步骤1.收集公开数据集,对数据集进行数据清洗和分析;步骤2.对参数进行初始化设置;分别对四个参数进行初始化设置;步骤3.对获得的在线数据,根据学习到的模型给出决策,然后获得本轮基于真实标签与决策差异的损失;步骤4.根据损失函数信息做决策更新;决策更新主要分成两个部分:对每个损失函数中的指数凹部分执行ONS迭代、对正则化部分使用近端映射;步骤5.记录本轮学习到的参数,基于此得到一个模型,该模型用于步骤3中,然后重复步骤3和步骤4,对参数不断进行学习和更新,直至完成T轮博弈。本发明有能力利用的指数凹性来实现与ONS相同的遗憾界并达到正则化的效果。

    锆酸镧多孔块体的制备方法

    公开(公告)号:CN104478464B

    公开(公告)日:2016-08-17

    申请号:CN201410781565.8

    申请日:2014-12-16

    申请人: 浙江大学

    摘要: 本发明公开了一种锆酸镧多孔块体的制备方法,包括以下步骤:在室温下,分别将锆无机盐、镧无机盐和相分离诱导剂溶解在溶剂中,搅拌至得透明澄清溶液;然后加入干燥控制化学添加剂搅拌;再加入凝胶促进剂搅拌;所得的均质溶液放入密封容器中,于30℃~80℃放置10~30min,得湿凝胶;将湿凝胶置于35~80℃下陈化12~24h,接着先用低表面张力溶剂清洗后再用表面修饰剂溶液浸泡,最后再用低表面张力溶剂清洗;清洗后湿凝胶于30~90℃干燥24~72h;然后于400~1300℃热处理2~4h,得到锆酸镧多孔块体。采用该方法制备的锆酸镧多孔块体具有共连续大孔结构,孔隙率高和孔径分布集中等特点。