公开(公告)号：CN119962627A

公开(公告)日：2025-05-09

申请号：CN202510050121.5

申请日：2025-01-13

Applicant: 北京邮电大学

Inventor： 杨成 ,  石川 ,  杨晋豫 ,  黄海

IPC: G06N3/096 ,  G06N3/042 ,  G06N3/0455 ,  G06N5/022

Abstract: 本发明公开了一种基于语言模型实现跨异质图谱知识识别方法，包括步骤：获取不同源的异质图每个节点以及节点之间的元路径，将元路径连接成文本序列，得到异质图中节点的语料库；利用语料库作为训练数据，根据节点标签的分类对跨异构语言模型LM进行训练，对跨异构语言模型LM进行优化；将跨异构语言模型LM编码的节点嵌入作为输入，对RGCN模型进行训练，生成无标签节点的软标签，对跨异构语言模型LM进行微调；对跨异构语言模型LM和RGCN模型的性能进行对齐，拉近两模型之间的性能差距。本发明提出了一种新的异构图信息识别方法，进一步加强了异构图信息转移过程。

公开(公告)号：CN118350410A

公开(公告)日：2024-07-16

申请号：CN202410360506.7

申请日：2024-03-27

Applicant: 北京邮电大学

Inventor： 石川 ,  杨成 ,  张琦

IPC: G06N3/042 ,  G06N3/045 ,  G06N3/098 ,  G06N3/0895

Abstract: 本申请提供的一种图神经网络的分布外检测方法、装置及相关设备，包括：响应于获取到图神经网络的输入图，对输入图中的每个节点进行每层的消息传递和聚合操作，并使用连接操作进行聚合，得到每个节点对应的节点表示；根据每个节点的节点表示，通过完成训练的相关提示图生成器和无关提示图生成器分别进行输入图的每条边的边权重调整，再分别根据调整后的输入图进行图神经网络的输出，将输出结果基于马氏距离的非参数的映射函数进行得分计算，得到检测得分；根据检测得分确定输入图的检测结果。

公开(公告)号：CN113672735B

公开(公告)日：2024-01-19

申请号：CN202111048789.4

申请日：2021-09-08

Applicant: 北京邮电大学

Inventor： 石川 ,  杨成 ,  许斯泳

IPC: G06F16/35 ,  G06F40/30 ,  G06N3/042 ,  G06N3/08

Abstract: 本发明公开了一种基于主题感知异质图神经网络的链接预测方法，旨在进一步挖掘基于结构语义的细粒度主题感知语义，用于HGs中的多方面主题感知表示学习。具体地，本发明首先应用多方面转换矩阵将不同类型节点的向量表示映射到多个主题感知子空间中；然后应用了交替的两步聚合机制，包括元路径内分解和元路径间合并，来学习每个目标节点的多方面主题感知表示；此外引入主题先验指导模块，它利用主题建模从非结构化文本内容中获取全局统计知识，有助于指导上下文聚合，作为一个正则化器，该模块使得所推断的主题感知子空间更加正交化，并提高所学多方面主题感知表示的可解释性。

公开(公告)号：CN113688600B

公开(公告)日：2023-07-28

申请号：CN202111049168.8

申请日：2021-09-08

Applicant: 北京邮电大学

Inventor： 杨成 ,  石川 ,  王浩

IPC: G06F40/126 ,  G06F40/194 ,  G06F40/30 ,  G06N3/048 ,  G06N3/0499 ,  G06N3/08

Abstract: 本发明公开了一种基于主题感知注意力网络的信息传播预测方法，将主题上下文和传播历史上下文整合到用户表示中进行预测。主题上下文支持针对特定主题的传播模式建模，而传播历史上下文可以进一步分解为用户依赖建模和位置依赖建模。随后，我们可以使用编码得到的用户上下文来构建多主题下的用户表示。然后，我们通过一个时间衰减聚合模块进一步集成用户表示，从而获取级联表示。其中，所有这些模块都是由信息传播的特征驱动的。因此，我们提出的基于主题感知注意力网络的信息传播预测方法可以更好地拟合真实世界的扩散数据，并更准确地预测。此外，在传统的主题感知模型中需要使用预定义好的主题分布，而采用本发明方法主题可以自动学习。

公开(公告)号：CN114298279A

公开(公告)日：2022-04-08

申请号：CN202111633979.2

申请日：2021-12-29

Applicant: 北京邮电大学

Inventor： 石川 ,  杨成 ,  赵天宇

IPC: G06N3/04 ,  G06N3/08 ,  G06K9/62 ,  G06V10/764

Abstract: 本发明公开了一种多设计维度的异质图神经网络的设计空间构建方法，提出统一的异质图神经网络框架，并基于此统一框架定义了异质图神经网络的设计空间。本发明弥补了之前的工作只从模型级评测异质图神经网络的缺点，为研究者提供了模块级评测的视角，进一步可以剖析哪一些设计维度在模型的性能中起到重要作用。我们还为异质图神经网络的设计空间构建了平台Space4HGNN，并基于此平台提炼出设计模型的原则性指导，提供了标准的评测和模块化的异质图神经网络实现。该平台为研究者提供了模块级的评测，可以提供给用户简易的接口，帮助他们评测不同设计维度的影响。

公开(公告)号：CN112861936B

公开(公告)日：2023-06-02

申请号：CN202110102108.1

申请日：2021-01-26

Applicant: 北京邮电大学

Inventor： 杨成 ,  石川 ,  刘佳玮

IPC: G06F18/241 ,  G06N3/04 ,  G06N3/08 ,  G06Q50/20

Abstract: 本发明实施例提供了一种基于图神经网络知识蒸馏的图节点分类方法及装置，将所述学生模型得到的第二预测结果，拟合所述教师模型得到的第一预测结果，通过使用教师模型的第一预测结果优化学生模型的，不需要教师模型和学生模型之间的集成或迭代，也能够提高分类精度，简化了优化学生模型的过程；学生模型采用标签传播公式，通过有标签的节点传播到相邻无标签的节点，可以从图结构的先验知识中受益；也通过特征变换公式，预测无标签点集的软标签，可以从特征的先验知识中受益，即数据集中具有硬标签的点集及无标签点集的特征。从而充分的使用先验知识，提高学生模型的分类效果，从而提高分类精度。

公开(公告)号：CN112861936A

公开(公告)日：2021-05-28

申请号：CN202110102108.1

申请日：2021-01-26

Applicant: 北京邮电大学

Inventor： 杨成 ,  石川 ,  刘佳玮

IPC: G06K9/62 ,  G06N3/04 ,  G06N3/08 ,  G06Q50/20

Abstract: 本发明实施例提供了一种基于图神经网络知识蒸馏的图节点分类方法及装置，将所述学生模型得到的第二预测结果，拟合所述教师模型得到的第一预测结果，通过使用教师模型的第一预测结果优化学生模型的，不需要教师模型和学生模型之间的集成或迭代，也能够提高分类精度，简化了优化学生模型的过程；学生模型采用标签传播公式，通过有标签的节点传播到相邻无标签的节点，可以从图结构的先验知识中受益；也通过特征变换公式，预测无标签点集的软标签，可以从特征的先验知识中受益，即数据集中具有硬标签的点集及无标签点集的特征。从而充分的使用先验知识，提高学生模型的分类效果，从而提高分类精度。

公开(公告)号：CN118211258A

公开(公告)日：2024-06-18

申请号：CN202410203717.X

申请日：2024-02-23

Applicant: 北京邮电大学

Inventor： 石川 ,  杨成 ,  刘纪玺

IPC: G06F21/62 ,  G06N3/0464 ,  G06N3/094

Abstract: 本申请提供一种基于敏感信息中和的处理方法、装置及相关设备。该方法包括：从联合先验分布(xi,si)～prior中提取每个节点vi对应的特征和敏感属性；根据每个节点vi通过同质假设采样得到每个节点vi对应的入度邻居节点集；其中，入度邻居节点集，包括：同质邻居节点和异质邻居节点；根据每个节点vi和与每个节点vi对应的入度邻居节点集生成具有节点集v和边集ε的图#imgabs0#其中，节点集V中每个节点vi具有敏感属性si；根据预设方式对图#imgabs1#的结构和或节点对应的节点特征进行修改以得到基于敏感信息中和的目标处理模型。在消息传递之前消除节点特征的偏见，提高预测性能和公平性。

公开(公告)号：CN114611621A

公开(公告)日：2022-06-10

申请号：CN202210266293.2

申请日：2022-03-17

Applicant: 北京邮电大学

Inventor： 石川 ,  杨成 ,  杨天持

IPC: G06K9/62 ,  G06N3/04 ,  G06N3/08

Abstract: 本发明公开了一种基于注意力超图神经网络的协同聚类方法，包括以下步骤：S1、构建一个超图来对完整交互进行建模，其中每个完整交互都表示为一条连接了所有相关对象的超边；S2、设计一个注意力超图神经网络来显式地学习完整交互的表示，同时通过注意力机制选择相关的关键属性以作为解释，所述的注意力机制通过显著性方法来指导；S3、对完整交互和相应的属性选择分布进行协同聚类，以实现基于聚类的一致性。与现有方法对比，本发明对完整交互进行了更全面的建模和表示，并且直接针对交互本身进行聚类分析，而不是对交互中的对象进行聚类分析，因此可以发现更全面的交互模式，此外，本发明还通过考虑两个一致性，进一步提高了聚类性能和可解释性。

公开(公告)号：CN113688600A

公开(公告)日：2021-11-23

申请号：CN202111049168.8

申请日：2021-09-08

Applicant: 北京邮电大学

Inventor： 杨成 ,  石川 ,  王浩

IPC: G06F40/126 ,  G06F40/194 ,  G06F40/30 ,  G06N3/04 ,  G06N3/08

Abstract: 本发明公开了一种基于主题感知注意力网络的信息传播预测方法，将主题上下文和传播历史上下文整合到用户表示中进行预测。主题上下文支持针对特定主题的传播模式建模，而传播历史上下文可以进一步分解为用户依赖建模和位置依赖建模。随后，我们可以使用编码得到的用户上下文来构建多主题下的用户表示。然后，我们通过一个时间衰减聚合模块进一步集成用户表示，从而获取级联表示。其中，所有这些模块都是由信息传播的特征驱动的。因此，我们提出的基于主题感知注意力网络的信息传播预测方法可以更好地拟合真实世界的扩散数据，并更准确地预测。此外，在传统的主题感知模型中需要使用预定义好的主题分布，而采用本发明方法主题可以自动学习。