针对上下文感知型的图卷积推荐系统

    公开(公告)号:CN112364242A

    公开(公告)日:2021-02-12

    申请号:CN202011249269.5

    申请日:2020-11-10

    Abstract: 本发明公开了一种针对上下文感知型的图卷积推荐系统,包括:编码器、图卷积层以及解码器;编码器为输入的用户信息、物品信息和上下文信息的每个非零特征关联一个隐空间矢量,并从用户信息、物品信息和上下文信息三个域将这些隐空间矢量进行组合;图卷积层中,基于预先构造的带属性的用户‑物品二分图,并结合编码器的输出进行图卷积操作,通过若干次图卷积操作获得用户与物品的最终特征表征;所述解码器,基于用户与物品的最终特征表征以及上下文信息的关联嵌入集合,预测用户在上下文信息下对物品的喜好程度。该系统是一种通用的、适合线上服务的推荐系统框架,既能结合各种辅助信息,又能捕捉协同过滤效应,提升模型性能。

    一种大模型增强的跨模态检索方法、系统及相关设备

    公开(公告)号:CN119719451B

    公开(公告)日:2025-05-27

    申请号:CN202510220410.5

    申请日:2025-02-27

    Abstract: 本发明公开了一种大模型增强的跨模态检索方法、系统及相关设备,所述跨模态检索方法包括:获取图像‑文本对;基于所述图像‑文本对,获取图像‑文本对的大模型增强信息,结合原始图像、文本和增强信息,采用预训练CLIP模型的多分支编码器以得到多个特征向量,构建多级协同对齐损失函数,在公共语义空间对图像模态和文本模态进行协同对齐;通过所述多级协同对齐损失函数以及预构建的训练数据库对模型进行训练,通过训练后的模型进行检索。本发明通过对编码器得到的图文特征进行协同学习,通过加入辅助的语义增强信息,在公共语义空间对图像模态和文本模态进行协同对齐,以训练出更好的检索网络从而提升图像‑文本检索的准确性。

    一种转化率模型更新方法、装置、电子设备及存储介质

    公开(公告)号:CN119006060B

    公开(公告)日:2024-12-24

    申请号:CN202411433446.3

    申请日:2024-10-15

    Abstract: 本发明公开了一种转化率模型更新方法、装置、电子设备及存储介质,所述方法包括获取训练集,训练集包括具有标签的训练样本,获取标签翻转样本,汇总所有标签翻转样本的梯度并通过计算估计CVR模型第一参数变化量;获取在训练截止时间至测试时间内的新到达数据,新到达数据包括新样本,利用新样本输入CVR模型得到新样本的模型参数近似,通过计算模型参数近似得到由新到达数据带来的第二参数变化量;根据第一参数变化量和第二参数变化量得到总参数变化量,基于总参数变化量对CVR模型更新。本发明通过计算新数据和延迟转化数据对模型参数的影响,实现了模型的实时更新,避免了重新训练模型,从而提高了预测准确性和模型适应性。

    直接偏好优化模型构建方法、装置、电子设备及存储介质

    公开(公告)号:CN118428324B

    公开(公告)日:2024-11-19

    申请号:CN202410888281.2

    申请日:2024-07-04

    Abstract: 本发明公开了直接偏好优化模型构建方法、装置、电子设备及存储介质,所述方法包括:所述直接偏好优化模型构建方法包括:获取微调的初始模型;为所述初始模型选用uDPO框架并设置uDPO的超参数,得到目标函数;根据所述目标函数生成目标模型。通过构建uDPO框架,在uDPO中引入新的超参数,实现了对数据对可靠性的细粒度控制,从而在噪声环境下提供了更加平衡的探索与利用策略。其次,uDPO在保持DPO对点噪声固有鲁棒性的同时,通过优化最坏成对场景,显著提升了模型对抗成对噪声的能力,相较于DPO无论是在噪声还是无噪声的数据集上,均能实现性能的显著提升,具有DPO对抗点噪声的能力的同时具有对抗成对噪声的能力。

    一种序列模型编辑方法、装置、电子设备及存储介质

    公开(公告)号:CN118585639B

    公开(公告)日:2024-11-05

    申请号:CN202411067077.0

    申请日:2024-08-06

    Abstract: 本发明公开了一种序列模型编辑方法、装置、电子设备及存储介质,包括,向所述序列模型给定提示词,获取所述提示词的多个原始隐藏向量;根据多个原始隐藏向量定位所述序列模型的待编辑位置,所述待编辑位置包含目标层和关键词元;根据关键词元的多个原始隐藏向量,确定最优隐藏向量;选择在给定提示词后,所述目标层中被激活的高分神经元,确定神经元子集;修改所述神经元子集的神经元参数,更新每一层的权重矩阵;迭代选择目标层的神经元,得到迭代后的神经元子集,修改迭代后的神经元子集的神经元参数,本发明能够很大程度上缓解模型遗忘问题;并且通过选择目标层,部分神经元的方式,降低了模型的编辑次数,从而降低防止模型损坏的风险。

    一种商品推荐方法、装置、电子设备及存储介质

    公开(公告)号:CN118071464B

    公开(公告)日:2024-08-30

    申请号:CN202410458141.1

    申请日:2024-04-17

    Abstract: 本申请涉及一种商品推荐方法、装置、电子设备及存储介质,其中,该商品推荐方法包括:包括如下步骤:步骤一:大模型根据当前上下文,生成用户的分析内容;步骤二:根据所述分析内容,所述大模型调用相应的工具接口处理,生成候选商品集合;步骤三:所述大模型判断所述候选商品集合或当前上下文是否符合预设目标,如果符合预设目标,所述大模型根据所述候选商品集合,向所述用户推荐目标商品集合;如果不符合预设目标,重复执行所述步骤一和步骤二。本申请将大模型作为推荐流程的中心控制器,使用大模型的推理能力,将用户兴趣建模抽象为根据当前的上下文对用户分析调用相应工具接口生成候选商品集的多轮探索过程,进行用户决策模拟,提高推荐效果。

    一种跨领域推荐方法、装置、电子设备及存储介质

    公开(公告)号:CN118070139B

    公开(公告)日:2024-08-27

    申请号:CN202410494093.1

    申请日:2024-04-24

    Abstract: 本申请提供了一种跨领域推荐方法,获取大语言模型与预训练的多个推荐模型,多个推荐模型分别对应不同的领域;获取多个领域对应的用户交互记录;分别将用户的交互记录输入对应领域的推荐模型,得到交互记录的隐空间表征;通过映射模型对交互记录的隐空间表征进行映射处理,映射模型的输入维度与交互记录的隐空间表征的维度相同,映射模型的输出维度与大语言模型的输入维度相同;将映射处理后的结果进行多领域融合,得到多领域隐空间表征;将多领域隐空间表征输入大语言模型,得到用户的目标推荐结果。通过上述方法使推荐模型可以与大语言模型对齐,大语言模型能够理解不同领域已经训练好的多个推荐模型,确定的用户的目标推荐结果更加准确全面。

    直接偏好优化模型构建方法、装置、电子设备及存储介质

    公开(公告)号:CN118428324A

    公开(公告)日:2024-08-02

    申请号:CN202410888281.2

    申请日:2024-07-04

    Abstract: 本发明公开了直接偏好优化模型构建方法、装置、电子设备及存储介质,所述方法包括:所述直接偏好优化模型构建方法包括:获取微调的初始模型;为所述初始模型选用uDPO框架并设置uDPO的超参数,得到目标函数;根据所述目标函数生成目标模型。通过构建uDPO框架,在uDPO中引入新的超参数,实现了对数据对可靠性的细粒度控制,从而在噪声环境下提供了更加平衡的探索与利用策略。其次,uDPO在保持DPO对点噪声固有鲁棒性的同时,通过优化最坏成对场景,显著提升了模型对抗成对噪声的能力,相较于DPO无论是在噪声还是无噪声的数据集上,均能实现性能的显著提升,具有DPO对抗点噪声的能力的同时具有对抗成对噪声的能力。

    一种个性化提示语优化方法、装置、电子设备及存储介质

    公开(公告)号:CN118350378A

    公开(公告)日:2024-07-16

    申请号:CN202410780615.4

    申请日:2024-06-18

    Abstract: 本发明公开了一种个性化提示语优化方法、装置、电子设备及存储介质,包括,获取大模型任务级提示语的K个组成部分,构建MDP模型,获取MDP模型的初始时刻状态,根据初始时刻状态,输出当前时刻的推荐物品集,对当前时刻的提示语和当前时刻的推荐物品集中被选择的推荐物品进行编码,迭代得到当前时刻#imgabs0#的状态#imgabs1#,根据当前时刻#imgabs2#的状态#imgabs3#,迭代得到下一时刻的状态,根据下一时刻的状态,选择下一时刻的动作,计算下一时刻的动作的概率,和下一时刻的状态的值,根据被选择的推荐物品,得到累计奖励#imgabs4#、第一损失函数#imgabs5#和第二损失函数#imgabs6#;本发明会不断地尝试不同的提示语,根据用户反馈和推荐物品来更新策略,从而逐渐提升提示语的质量和推荐效果。

    一种跨领域推荐方法、装置、电子设备及存储介质

    公开(公告)号:CN118070139A

    公开(公告)日:2024-05-24

    申请号:CN202410494093.1

    申请日:2024-04-24

    Abstract: 本申请提供了一种跨领域推荐方法,获取大语言模型与预训练的多个推荐模型,多个推荐模型分别对应不同的领域;获取多个领域对应的用户交互记录;分别将用户的交互记录输入对应领域的推荐模型,得到交互记录的隐空间表征;通过映射模型对交互记录的隐空间表征进行映射处理,映射模型的输入维度与交互记录的隐空间表征的维度相同,映射模型的输出维度与大语言模型的输入维度相同;将映射处理后的结果进行多领域融合,得到多领域隐空间表征;将多领域隐空间表征输入大语言模型,得到用户的目标推荐结果。通过上述方法使推荐模型可以与大语言模型对齐,大语言模型能够理解不同领域已经训练好的多个推荐模型,确定的用户的目标推荐结果更加准确全面。

Patent Agency Ranking