-
公开(公告)号:CN113918743A
公开(公告)日:2022-01-11
申请号:CN202111526779.7
申请日:2021-12-15
Applicant: 哈尔滨工业大学(深圳)(哈尔滨工业大学深圳科技创新研究院)
IPC: G06F16/51 , G06F16/54 , G06V10/774 , G06V10/764 , G06K9/62
Abstract: 本发明提供了一种面向长尾分布场景下图片分类的模型训练方法,包括:构建第一损失函数,用于加入原型归一化以及角域上与类别数量相关的带有边界的交叉熵分类损失;构建第二损失函数,使得各个类别的原型分散的更加均匀的,与类别数量相关最小角度最大化的正则项损失;构建第三损失函数,用于帮助模型有效训练的特征向量模长大小的正则化损失;将第一损失函数、第二损失函数、第三损失函数组合起来得到最终的损失函数Loss。本发明的有益效果是:本发明可以避免训练数据不均衡带来的模型先验偏差的问题以及进一步提升模型在测试集上的泛化性,从而在长尾分布场景下提升图片分类准确率。
-
公开(公告)号:CN113807330A
公开(公告)日:2021-12-17
申请号:CN202111372548.5
申请日:2021-11-19
Applicant: 哈尔滨工业大学(深圳)(哈尔滨工业大学深圳科技创新研究院)
Abstract: 本发明公开了一种面向资源受限场景的三维视线估计方法及装置,方法包括:构建端到端的视线估计网络,同时进行人脸检测和视线估计,并且采用多任务学习同时对两种数据集进行采样,不同数据训练不同分支;将收集的人脸检测数据集和视线估计数据集进行融合训练,使端到端的视线估计网络同时适应这两种不同的数据域,并采用多任务学习方式训练该网络,得到训练好的模型;对训练好的模型进行压缩以及量化处理,从而使得训练好的模型能部署在边缘设备上,实现三维实现的实时估计。本发明使用端到端的方法,避免对图像进行多次特征提取,提高了运行速度并支持实时视线估计;本发明采用轻量级模型并进行模型压缩,使模型可以在资源受限场景运行。
-
公开(公告)号:CN113553610A
公开(公告)日:2021-10-26
申请号:CN202111103182.1
申请日:2021-09-22
Applicant: 哈尔滨工业大学(深圳)(哈尔滨工业大学深圳科技创新研究院)
Abstract: 本发明公开了一种基于同态加密和可信硬件的多方隐私保护机器学习方法,包括:将私钥sk发送给各个数据方和可信硬件R;服务器S整合各个数据方上传的密文数据得到密文数据集;服务器S在密文数据集的基础上,将普通机器学习算法中的线性运算替换为同态加法和同态乘法,在密文状态下进行机器学习建模;服务器S在完成密文下的机器学习建模后,将加密的模型密文下发给各个数据方;各个数据方利用私钥解密模型密文,得到由各个数据方的数据D训练得到的模型。本发明利用全同态加密的性质、以及依靠可信硬件实现的模拟自举和执行激活函数功能,能够获得与对未加密数据进行机器学习训练的模型一致的准确率。
-
公开(公告)号:CN112183580B
公开(公告)日:2021-08-10
申请号:CN202010927478.4
申请日:2020-09-07
Applicant: 哈尔滨工业大学(深圳)(哈尔滨工业大学深圳科技创新研究院)
Abstract: 一种基于动态知识路径学习的小样本分类方法,包括如下步骤:基于知识图的知识挑选阶段,通过将辅助集组成知识图,用以小样本实例在知识图中寻找适合自己的学习路径;基于类别约束的动态路径生成阶段,小样本实例选择知识图中最相关的知识点组成路径,引入路径在类别级的约束,获得类别共性,通过计算路径损失来约束路径的好坏;基于路径的知识学习与分类阶段,顺序地将最相关的知识点所携带的信息提取出来增强目标实例的特征表达,查询集实例与支撑集中每一个小样本实例的特征表达进行相似度计算,使得目标实例分到相似度最高的类别上,然后使用交叉熵损失来衡量分类损失,通过分类损失和路径损失的加权求和建立小样本分类模型。
-
公开(公告)号:CN113052203A
公开(公告)日:2021-06-29
申请号:CN202110181592.1
申请日:2021-02-09
Applicant: 哈尔滨工业大学(深圳)(哈尔滨工业大学深圳科技创新研究院)
Abstract: 本发明公开了一种面向多种类数据的异常检测方法及装置。所述面向多种类数据的异常检测方法通过训练对抗学习网络,使对抗学习网络中的生成器拟合正常训练样本的分布以及学习正常训练样本的潜在模式,得到更新的对抗学习网络,根据训练过程中产生的重构误差构造更新的对抗学习网络中的异常评价函数,并将更新的对抗学习网络构建为异常检测模型,以利用异常检测模型对输入的检测数据进行异常检测,得到异常检测结果。本发明基于传统生成对抗学习模型的异常检测方法,通过引入模式分类器的思想,有效解决了检测数据与正常数据分布相近时异常检测难的问题,进一步提高了异常检测的准确性。
-
公开(公告)号:CN112185395B
公开(公告)日:2021-04-27
申请号:CN202010920024.4
申请日:2020-09-04
Applicant: 哈尔滨工业大学(深圳)(哈尔滨工业大学深圳科技创新研究院)
Abstract: 本发明提出一种基于差分隐私的联邦声纹识别方法,包括一:在服务端进行通用背景模型UBM预训练得到初始通用背景模型UBM;二:客户端接收预训练后的初始通用背景模型UBM,利用本地的私有语音数据进行初始通用背景模型UBM的学习;三:客户端学习得到的统计量进行差分隐私保护;四:服务端聚合多个客户端上传的差分隐私保护后的统计量,更新初始通用背景模型UBM;五:客户端接收更新后通用背景模型UBM,借助本地私有语音数据调整得到该客户端用户的高斯混合模型GMM,利用更新后通用背景模型UBM和该用户的高斯混合模型GMM判别待验证语音是否为该客户端用户所产生。
-
公开(公告)号:CN111260040B
公开(公告)日:2020-11-06
申请号:CN202010370070.1
申请日:2020-05-06
Applicant: 哈尔滨工业大学(深圳)(哈尔滨工业大学深圳科技创新研究院)
Abstract: 本发明提供了一种基于内在奖励的视频游戏决策方法,包括以下步骤:S1、获取视频游戏模拟环境;S2、构建神经网络模型;S3、设计内在奖励模型;S4、将内在奖励模型与构建的神经网络模型结构结合;S5、通过模拟环境获取游戏的记录;S6、通过获取的游戏记录,更新神经网络模型;S7、循环训练神经网络模型直至收敛。本发明的有益效果是:较好的解决了三维场景中较为常见的缺乏环境反馈奖励值的问题。
-
公开(公告)号:CN111291890A
公开(公告)日:2020-06-16
申请号:CN202010399728.1
申请日:2020-05-13
Applicant: 哈尔滨工业大学(深圳)(哈尔滨工业大学深圳科技创新研究院)
Abstract: 本发明提供了一种博弈策略优化方法、系统及存储介质,该博弈策略优化方法包括建立基于最大熵的策略递度算法步骤和多智能体最优反应策略求解步骤。本发明的有益效果是:本发明采用中心化训练和分散式执行的方式,提高动作估值网络的准确性,同时引入了全局基线奖励来更准确地衡量智能体的动作收益,以此来解决人博弈中的信用分配问题。同时引入了最大熵方法来进行策略评估,平衡了策略优化过程中的探索与利用。
-
公开(公告)号:CN118657173B
公开(公告)日:2025-01-14
申请号:CN202411136019.9
申请日:2024-08-19
Applicant: 哈尔滨工业大学(深圳)(哈尔滨工业大学深圳科技创新研究院)
IPC: G06N3/042 , G06N3/045 , G06N3/0495 , G06N3/096 , G06N3/084 , G06F18/241 , G06F40/284
Abstract: 本发明公开了一种知识蒸馏方法和系统,方法包括:获取教师模型在训练集样本上的输出作为软标记训练集;设计学生模型架构和学生模型与教师模型的层对应关系;将训练集或软标记训练集划分为超批次,进行基于主成分分析的第一轮白盒知识蒸馏;进行基于软标记训练集的第二轮黑盒知识蒸馏;测试学生模型性能。本发明利用主成分分析将隐含层大小和架构不同的教师模型和学生模型相互对应,以完成白盒知识蒸馏的方法,使白盒知识蒸馏能被应用在更多学生模型上,便于进一步提高压缩比。本发明蒸馏方法相对白盒知识蒸馏和黑盒知识蒸馏均具有更好的性能。
-
公开(公告)号:CN118536603B
公开(公告)日:2024-12-24
申请号:CN202410754029.2
申请日:2024-06-12
Applicant: 哈尔滨工业大学(深圳)(哈尔滨工业大学深圳科技创新研究院) , 鹏城实验室
IPC: G06N5/04 , G06N3/0455 , G06N3/0464 , G06F18/22 , G06F18/25
Abstract: 本发明涉及生成式人工智能技术领域,公开了一种基于因果微调的个性化文生图模型构建及文生图方法,包括:将多个主体的多个参考图像、文本描述分别进行合并增强得到多个合并增强图像及合并文本描述;利用预设因果解耦算法,从各主体的文本描述、合并文本描述及合并增强图像中分别提取出保护身份的文本表征、身份相关及身份无关的视觉表征;将其输入预设因果推理模型,得到交叉注意力映射图;将交叉注意力映射图与对应主体身份相关的视觉表征对齐。本发明通过主体感知的因果解耦来鉴别主体身份相关的信息和身份无关的信息,保护主体身份信息,通过交叉注意力引导使每个主体的文本属性与视觉属性因果对齐,避免主体间混淆文生图的有效性、可控性。
-
-
-
-
-
-
-
-
-