-
公开(公告)号:CN117422073A
公开(公告)日:2024-01-19
申请号:CN202311499144.1
申请日:2023-11-08
Applicant: 中国科学技术大学
IPC: G06F40/295 , G06F16/33 , G06F16/35 , G06F16/36 , G06F18/2431 , G06N5/022 , G06N3/047 , G06N3/0442 , G06N3/0499 , G06N3/048 , G06N3/084
Abstract: 本发明涉及命名实体识别领域,公开了一种参数高效微调的行业数据跨域命名实体识别方法,包括:对预训练语言模型的源域和目标域,引入实例级别的提示池查询方法,从当前领域的语料库中获取知识,使用当前领域的数据优化损失函数,为每个领域训练生成相应的前缀域控制器;通过双查询方法和域前缀内在协作方法,对训练得到的源域和目标域的前缀域控制器进行融合,输出目标域前缀控制器;使用目标域数据更新目标域前缀控制器的参数,将更新后的终极目标域前缀控制器指导预训练语言模型,实现行业数据的命名实体识别。本发明基于参数高效微调预训练语言模型,在统一的模型架构下实现多个源领域的知识迁移,参数调整的灵活,解决数据稀缺问题。
-
公开(公告)号:CN103246672B
公开(公告)日:2016-06-08
申请号:CN201210028896.5
申请日:2012-02-09
Applicant: 中国科学技术大学
IPC: G06F17/30
Abstract: 本发明涉及一种对用户进行个性化推荐的方法和装置。该方法主要包括:利用用户的标签数据计算用户之间的相似度,利用产品的标签数据计算产品之间的相似度,根据相似度信息获取每个用户和每项产品的邻居集合;基于所述用户和产品的邻居集合信息,采取最近邻居矩阵分解算法计算出用户和产品的特征向量;根据用户和产品的特征向量,预测用户对未评分产品的评分数据,根据所述评分数据对用户进行个性化产品推荐。本发明实施例能在矩阵分解模型中引入了标签信息、邻居集合信息,使得相似的用户/产品具有相似的特征向量,因此既拥有矩阵分解模型的优点,又能够在全局结构中抓住邻居间的强关系。
-
公开(公告)号:CN115049076A
公开(公告)日:2022-09-13
申请号:CN202210824020.5
申请日:2022-07-13
Applicant: 中国科学技术大学
Abstract: 本公开提供了一种基于原型网络的迭代聚类式联邦学习方法,该方法包括:用户端接收由服务器端发送的本轮全局原型网络;用户端根据本地样本数据集,训练全局原型网络以及确定用户嵌入表示向量和用户类别分布,其中,每一个用户具有一个用户嵌入表示向量;用户端向服务器端发送训练后的全局原型网络、用户嵌入表示向量、用户类别分布,以使服务器端执行如下操作:根据用户嵌入表示向量和用户类别分布,确定基于训练后的全局原型网络的模型距离;根据模型距离确定用户聚类结果,进而执行全局模型参数聚合,得到最新的全局模型参数;循环执行T轮上述步骤,直至利用基于原型网络的迭代聚类式联邦学习方法训练的全局原型网络满足预设收敛条件。
-
公开(公告)号:CN103246672A
公开(公告)日:2013-08-14
申请号:CN201210028896.5
申请日:2012-02-09
Applicant: 中国科学技术大学
IPC: G06F17/30
Abstract: 本发明涉及一种对用户进行个性化推荐的方法和装置。该方法主要包括:利用用户的标签数据计算用户之间的相似度,利用产品的标签数据计算产品之间的相似度,根据相似度信息获取每个用户和每项产品的邻居集合;基于所述用户和产品的邻居集合信息,采取最近邻居矩阵分解算法计算出用户和产品的特征向量;根据用户和产品的特征向量,预测用户对未评分产品的评分数据,根据所述评分数据对用户进行个性化产品推荐。本发明实施例能在矩阵分解模型中引入了标签信息、邻居集合信息,使得相似的用户/产品具有相似的特征向量,因此既拥有矩阵分解模型的优点,又能够在全局结构中抓住邻居间的强关系。
-
-
-