基于大语言模型的知识挖掘方法和装置

    公开(公告)号:CN117725113A

    公开(公告)日:2024-03-19

    申请号:CN202311654784.5

    申请日:2023-12-05

    Abstract: 本说明书的实施例提供了一种基于大语言模型的知识挖掘方法和装置。在该基于大语言模型的知识挖掘方法中,根据预定实体图谱,获取针对源实体的结构化知识;根据该源实体在该预定实体图谱中的目标属性确定候选关系集;利用大语言模型根据该结构化知识、该候选关系集和针对该源实体的附加知识,输出对应的目标关系集和可继承知识,其中,该可继承知识包括该目标关系集中的关系所对应的至少一个目标实体词;再利用大语言模型基于该源实体、该目标关系集中的关系和结构化知识、附加知识、可继承知识中的至少一项构建的提示信息,输出与所提供的关系对应的候选实体词集;进而,得到与该源实体相关联的实体和相应关系。

    基于关系网络的模型训练方法、表征确定方法及装置

    公开(公告)号:CN115936057A

    公开(公告)日:2023-04-07

    申请号:CN202211538942.6

    申请日:2022-12-02

    Abstract: 本说明书实施例提供了一种基于关系网络的模型训练方法、表征确定方法及装置。其中通过注意力模型对用户节点的邻居用户节点进行选择,从而利用选择的邻居用户节点确定关系网络的选择邻接矩阵。接着,通过图神经网络,基于选择邻接矩阵将邻居节点表征向对应的用户节点传播,得到用户聚合表征;利用用户聚合表征和物表征之间的相似度拟合用户与物之间的点击行为,从而与已有点击行为之间的差异构建预测损失,并更新注意力模型。训练后的注意力模型能够选择出更可信的邻居用户。之后,利用注意力模型对用户和商品进行多路径的表征聚合,并利用自监督训练多表征聚合模型,得到最终的用户表征和商品表征,进而利用其相似度拟合用户对商品的点击概率。

    图神经网络的训练方法及装置

    公开(公告)号:CN114707644A

    公开(公告)日:2022-07-05

    申请号:CN202210440602.3

    申请日:2022-04-25

    Abstract: 本说明书实施例提供一种图神经网络的训练方法,涉及基于用户关系图谱对图神经网络进行多轮次迭代更新,其中任一轮次包括:利用当前图神经网络对所述用户关系图谱进行处理,得到与该用户关系图谱中多个用户节点对应的多个分类预测向量;基于所述多个分类预测向量,为所述多个用户节点中第一数量的未标注节点分配对应的伪分类标签;针对所述第一数量的未标注节点中的各个未标注节点,确定利用其训练所述当前图神经网络而产生的信息增益;根据与所述多个用户节点中各个标注节点对应的分类预测向量和真实分类标签,以及与所述各个未标注节点对应的分类预测向量、伪分类标签和信息增益,更新所述当前图神经网络中的模型参数。

    确定用户的业务属性的方法及装置

    公开(公告)号:CN111581450A

    公开(公告)日:2020-08-25

    申请号:CN202010588745.X

    申请日:2020-06-24

    Abstract: 本说明书实施例提供一种确定用户的业务属性的方法,一方面,基于异构图确定用户的预测向量,将各个关联关系下获取的用户的表达向量融合,综合了各种可能的信息,从多维度丰富用户信息,利用信息互补性探索多重关系下的丰富语义,从而避免单一信息缺失无法准确描述用户导致的无法预测用户业务属性的情形;另一方面,在单个关联关系下确定用户的表达向量过程中,不仅考虑用户与其他用户之间的关联影响,而且还考虑连接边对应的业务属性对这种关联关系的影响,充分利用用户的局部结构信息来增强对用户的表示能力,从而提高对用户业务属性预测的准确度。

    基于异构图进行业务处理的方法及装置

    公开(公告)号:CN111309983A

    公开(公告)日:2020-06-19

    申请号:CN202010162991.9

    申请日:2020-03-10

    Abstract: 本说明书实施例提供一种基于异构图进行业务处理的方法和装置,可以利用不同结构的关系网络构成的异构图直接进行业务处理。在本说明书的实施架构下,利用多个不同连接关系类型的关系网络,可以更加全面的刻画实体的特征,另一方面,针对各个关系网络分别处理得到节点的各个业务表征向量,无需对各个关系网络进行综合,可以避免繁琐的手工特征抽取,进一步地,可以自动确定在当前业务下,当前实体在每个关系网络中的重要度系数(权重),实现在各个关系网络下的信息融合,从而使得对当前实体的评估结果更加准确。

    序列推荐方法和装置
    17.
    发明公开

    公开(公告)号:CN117909592A

    公开(公告)日:2024-04-19

    申请号:CN202410124852.5

    申请日:2024-01-29

    Abstract: 本说明书实施例提供一种序列推荐方法和装置。方法包括:获取目标用户的历史交互的各个对象按照时间先后顺序构成的历史对象序列;根据历史对象序列,构建目标提示信息;用于提示向所述目标用户推荐目标对象及其理由;将目标提示信息输入第一语言模型,通过第一语言模型输出目标推荐理由;基于目标推荐理由的文本编码向量,确定目标用户的用户表征;基于对象集合中的任一待推荐对象的文本编码向量,确定该待推荐对象的对象表征;将用户表征和对象集合中的任一待推荐对象的对象表征输入匹配模型,得到二者的匹配分数,并根据匹配分数,从对象集合中选择一个待推荐对象作为向目标用户推荐的目标对象。能够提升推荐的准确性。

    推荐模型的训练方法、推荐方法及电子设备

    公开(公告)号:CN117370663A

    公开(公告)日:2024-01-09

    申请号:CN202311369866.5

    申请日:2023-10-20

    Abstract: 本说明书的实施例提供一种推荐模型的训练方法、推荐方法及电子设备,其中,所述训练方法包括:获得多个初始样本,每个所述初始样本包括样本用户按照时间顺序先后交互的多个项目;基于所述多个初始样本从至少两个对比维度构建得到对比样本集合,其中,所述至少两个对比维度包括:项目相关性对比维度和序列周期性对比维度;进而,从所述至少两个对比维度对所述多个初始样本和所述对比样本集合进行对比学习以得到所述推荐模型,所述推荐模型具有捕获用户交互行为的发散周期性的能力。

    一种推荐模型的训练方法及装置
    20.
    发明公开

    公开(公告)号:CN115618235A

    公开(公告)日:2023-01-17

    申请号:CN202211390418.9

    申请日:2022-11-04

    Abstract: 本说明书实施例提供一种推荐模型的训练方法及装置,模型包括第一图神经网络、N个并行设置的专家网络和若干个推荐任务各自对应的门控网络和预测网络,该方法包括:获取二部图和标签集;利用第一图神经网络处理二部图,得到其中目标用户的第一用户表征和目标对象的第一对象表征;利用各专家网络,并行处理目标用户的用户特征和目标对象的对象特征,得到各专家输出表征;通过组合操作确定各预测网络的输入,使得各预测网络产生对应推荐任务的预测数据;组合操作包括基于对应门控网络的输出,组合各专家输出表征、第一用户表征和第一对象表征;利用各推荐任务对应的预测数据及标签集中各推荐任务对应的标签数据,训练推荐模型。

Patent Agency Ranking