一种基于大模型与图神经网络相结合的用户行为序列推荐方法、系统及存储介质

    公开(公告)号:CN119782622A

    公开(公告)日:2025-04-08

    申请号:CN202411977708.2

    申请日:2024-12-31

    Abstract: 本发明一种基于大模型与图神经网络相结合的用户行为序列推荐方法、系统及存储介质,涉及行为序列推荐技术领域,为解决现有的方法难以将大语言模型的文本特征提取能力与序列推荐的动态建模能力进行深度融合,难以实现准确、全面的推荐的问题。本发明的LLM‑SR模型的基于大模型的物品文本表示学习模块通过大语言模型提取物品文本的高质量语义嵌入,结合线性层映射和多层感知机生成适配推荐任务的物品表示;通过基于图神经网络的序列表示学习模块利用会话图和全局图捕捉物品的局部顺序关系和跨会话共现关系,生成用户行为序列的综合表示;通过预测评分计算模块将用户序列表示与候选物品嵌入的点积计算物品评分并排序,生成最终的推荐结果。

    一种针对同态加密技术的GPU加速方法及系统

    公开(公告)号:CN119740252A

    公开(公告)日:2025-04-01

    申请号:CN202411940742.2

    申请日:2024-12-26

    Abstract: 一种针对同态加密技术的GPU加速方法及系统,涉及同态加密和GPU加速技术,为了解决实现同态加密需进行复杂的系数位数较长的多项式计算而GPU缺乏处理这种这类数据的能力的问题而提出的,本发明的技术要点包括:采用一种基于线程束洗牌的优化技术,以消除同步开销;利用内核融合,以解决内存访问和计算之间的不平衡问题;对于神经网络推理应用,针对不同场景设计了不同的编码方法:对于小批量数据,采用一种基于大步小步算法的全连接层计算方法,减少了数据传输所需的旋转密钥数量。对于大批量数据,引入了一种基于流的计算方法来提高GPU利用率。本发明通过线程束洗牌、内核融合和神经网络推理优化,相比同态加密开源库SEAL实现了256倍的加速,分别在卷积神经网络上为小批量和大批量数据提供了毫秒和亚毫秒的推理速度。

    一种基于传播路径间与传播路径内影响力建模的信息传播预测方法及系统

    公开(公告)号:CN115660147B

    公开(公告)日:2024-10-15

    申请号:CN202211171903.7

    申请日:2022-09-26

    Abstract: 一种基于传播路径间与传播路径内影响力建模的信息传播预测方法及系统,涉及信息传播预测技术领域,用以解决在一段时间之后信息在社交网络中流行度增长量的预测问题。本发明的技术要点包括:使用图神经网络对级联图进行建模,得到聚合邻居节点状态与特征的节点表示;通过深度游走算法对整体级联网络图进行采样,获得级联图的序列集合,将图形神经网络嵌入表示与Deepwalk嵌入表示进行拼接来更新序列中各个节点的信息;将附有邻居信息的节点表示序列输入双向LSTM中,同时将时序信息经过注意力机制引导对序列进行整合,增强了级联预测模型的理解能力与预测能力。本发明兼顾级联传播路径间与传播路径内影响力传递性,以及纳入时序与结构因素互补性的有效性。

    一种隐私保护的图联邦节点异常检测方法

    公开(公告)号:CN118734213A

    公开(公告)日:2024-10-01

    申请号:CN202410729185.3

    申请日:2024-06-06

    Abstract: 本发明提出一种隐私保护的图联邦节点异常检测方法,属于联邦学习技术领域。包括:S1.构建图节点异常检测模型,通过最小化损失函数得到客户端本地模型参数和累积梯度信息;S2.模型输出各节点的异常分数,客户端对模型使用分层相关性传播算法,得到各神经元的相关性权重,获得隐私保护梯度信息,将信息发送到云服务器;S3.云服务器聚合运算,使用聚合后信息对全局模型更新;将全局模型参数广播下发至客户端;S4.迭代执行S1至S3直到达到预设的模型聚合次数后停止执行,完成隐私保护的图联邦节点异常模型的训练。解决图联邦节点异常检测方法不能有效且严格地保护参与方的图数据隐私性和参数噪音加强所带来的精度损失的问题。

    一种基于图神经网络的多行为社会化推荐方法及系统

    公开(公告)号:CN117171448B

    公开(公告)日:2024-05-28

    申请号:CN202311015948.X

    申请日:2023-08-11

    Abstract: 一种基于图神经网络的多行为社会化推荐方法及系统,涉及推荐技术领域,为了解决现在的推荐方法没有区分与交互行为相关联的信任传播过程。本发明提出一个多行为社会化推荐框架MB‑Soc模型,该模型将细粒度的多行为信息集成到社交推荐架构中,MB‑Soc架构由四个主要部分组成:嵌入层、传播层、多行为集成层和预测层。本发明提出了一种全新的多行为社会化推荐框架MB‑Soc来探索社交推荐中的细粒度信任传播过程,对实体的多种类行为在社交网络中的传播进行区分,并完成在社会化推荐场景下的差分化传播。本发明完成了在真实数据集上的可扩展实验,大量实验证明了本发明所提出的MB‑Soc模型的优越性和有效性。

    一种基于图结构的多源迁移学习方法

    公开(公告)号:CN112085085B

    公开(公告)日:2024-02-23

    申请号:CN202010917529.5

    申请日:2020-09-03

    Abstract: 一种基于图结构的多源迁移学习方法,属于人工智能领域,为了解决单纯利用图结构数据的节点实体特征不能准确预测目标域节点标签的问题。该方法通过构建节点T‑邻域结构,获得T‑邻域结构集合;并对T‑邻域结构集合进行去重,获得子图集B;通过学习子图集B,获得通用结构;利用通用结构分别获得源域节点结构特征和目标域节点结构特征;将节点实体特征和节点结构特征相结合,分别获得源域新特征和目标域新特征,从而获得目标域节点标签。本发明方法可以应用于目标任务相同的同构迁移学习和异构迁移学习,在具有图结构的数据中具有很好的预测效果,可以对一个新未知网络进行较为准确的节点标签信息预测。

    一种未访问源数据的多源异构网络迁移方法

    公开(公告)号:CN117236419A

    公开(公告)日:2023-12-15

    申请号:CN202311176935.0

    申请日:2023-09-13

    Abstract: 本发明公开了一种未访问源数据的多源异构网络迁移方法,涉及迁移学习技术领域,以解决异构网络上的相关问题。本发明的技术要点包括:首先使用基于伯恩斯坦多项式的深度网络嵌入模块在异构网络进行预训练得到一组源模型;得到一组训练好的源模型之后,不再使用源数据,利用域适应模块对得到的一组源模型进行域适应,使用训练得到的最优权重加权聚合域适应后的源模型得到最优目标模型。在域适应过程不访问源数据的前提下,本发明方法可以自动地将通过嵌入模块训练得到一组源模型与合适的权重组合在一起,使其性能至少与最佳源模型一样好,并最小化了负迁移的影响。

    一种基于屏蔽自注意力网络的话题感知信息转发预测方法及系统

    公开(公告)号:CN116842398A

    公开(公告)日:2023-10-03

    申请号:CN202310765614.8

    申请日:2023-06-27

    Abstract: 本发明公开了一种基于屏蔽自注意力网络的话题感知信息转发预测方法及系统,涉及信息转发预测技术领域。本发明的技术要点包括:提取消息中的话题表示,将话题表示与用户嵌入进行融合表示,获得用户‑话题依赖表示;构建包含上下文编码器、掩码生成器、掩码编码器的屏蔽自注意力网络,将用户‑话题依赖表示输入屏蔽自注意力网络,获得上下文用户依赖感知的用户表示;利用注意力机制计算目标用户与历史感染用户列表的相似度,以对用户表示进行优化重建;通过计算对应优化重建后用户表示的级联表示与下一个用户之间的似然关系来获取下一个用户的激活概率。本发明可为舆情研判、个性化推荐、热点话题识别等应用提供有价值的决策辅助支撑。

    一种基于图卷积神经网络的多源迁移学习方法

    公开(公告)号:CN112085086A

    公开(公告)日:2020-12-15

    申请号:CN202010918169.0

    申请日:2020-09-03

    Abstract: 一种基于图卷积神经网络的多源迁移学习方法,属于人工智能领域,用以解决同构图结构数据中单纯利用节点实体特征而不能对目标域节点进行准确地分类,同时解决异构图结构数据中直接利用目标域少量标签预测的分类不准确问题。技术要点:对于同构数据,利用基于混合分布度量的分布距离衡量方法获得源域与目标域之间的分布距离;通过最小化源域与目标域的平衡条件分布与边缘分布差异,最小化源域类内距离以及最大化源域类间距离进行分布对齐;对于异构数据,训练出多个图卷积神经网络模型,并计算出模型的分类权重,通过加权融合获得分类结果。本发明方法用于完成图结构数据的节点分类任务,能够有效提高目标域节点分类准确率。

    舆情数据角色识别中异构关系数据的迁移学习界限的确定方法

    公开(公告)号:CN109657159A

    公开(公告)日:2019-04-19

    申请号:CN201811547552.9

    申请日:2018-12-18

    Abstract: 舆情数据角色识别中异构关系数据的迁移学习界限的确定方法,涉及迁移学习技术领域。为了解决现有技术没有联合两个领域的数据进行学习再运用到目标域中,分类效果不准确的问题。定义度量两个异构领域间差异的 散度,利用它求出均来自同一个抽象假设类A的两个领域的经验距离并给出将两个类转化到同一个特征空间下的算法,给出经验距离和真实距离之间的差异界限,给出最小化目标域误差的界限,最终又给出泛化能力最强并结合源域和目标域训练数据的泛化误差,通过最小化联合误差来得到目标域误差的界限。所得出的界限保证在目标域标记数据很少的情况下也能得到一个合理的界限值。适用于公共大数据及新媒体数据平台中的各种识别问题。

Patent Agency Ranking