-
公开(公告)号:CN117195895B
公开(公告)日:2024-08-02
申请号:CN202311115750.9
申请日:2023-08-31
Applicant: 北京邮电大学
IPC: G06F40/295 , G06F40/237 , G06F40/30 , G06F16/35 , G06F16/36
Abstract: 本发明提供一种基于语义增强机制的关系抽取方法及系统,所述方法的步骤包括:基于预设的编码模型对检测语句进行编码,得到初始语句向量,所述初始语句向量中包括对应检测语句中的每个词语的初始词向量;基于主体识别模块识别初始语句向量中的可能主体词向量,并输入到语义增强模块中;基于语义增强模块的分类层对可能主体词向量进行预分类,并构建对于每个可能主体词向量的相似词表;基于可能主体词向量的预分类结果和相似词表构建对于每个主体词向量的增强词向量;基于可能主体词向量构建主体语句向量,基于增强词向量构建增强语句向量,将初始语句向量、主体语句向量和增强语句向量输入到预设的客体与关系识别模块,得到实体关系分类结果。
-
公开(公告)号:CN116541779B
公开(公告)日:2023-10-31
申请号:CN202310826334.3
申请日:2023-07-07
Applicant: 北京邮电大学 , 北京极智嘉科技股份有限公司
IPC: G06F18/2415 , G06N3/042 , G06Q10/0637 , G06Q50/00 , G06F18/214 , G06F18/25 , H04L67/10
Abstract: 本发明提供一种个性化公共安全突发事件检测模型训练方法、检测方法及装置,包括:获取完成当前轮次训练的各客户端的本地检测模型及其梯度;将构建的随机图输入各客户端本地检测模型,计算得到各客户端模型的梯度状态;在各客户端部署强化学习模块,以本地检测模型准确率构建奖励值;将基于策略网络得到的所有客户端之间梯度聚合的动作归一化,得到各客户端梯度的权重,根据权重确定下一轮参与聚合的客户端以及是否进行梯度量化;重复进行多轮训练,直至得到各客户端的公共安全突发事件检测模型。本发明提供的训练方法能够减小本地数据非独立同分布的影响,减小梯度通信的消耗,平衡模型的性能与通信压力。
-
公开(公告)号:CN119249258A
公开(公告)日:2025-01-03
申请号:CN202411079785.6
申请日:2024-08-07
Applicant: 北京邮电大学
IPC: G06F18/2415 , G06F18/214 , G06F18/25 , G06N3/042 , G06N3/098 , G06N3/088
Abstract: 本发明提供一种突发事件识别模型训练方法、识别方法及装置,基于联邦学习的架构预训练全局分类器,通过随机块模型对各客户端的局部图抽取对局部结构信息并聚合,重建带有全局信息的局部视图,通过知识蒸馏的方式,利用带有全局信息的局部视图指导局部视角下的模型优化训练,最小化两个图结构下的表示差异;利用对比学习方法,通过对图数据进行扰动和扩充,构建增强视图,并选取原图和增强试图中对应节点的表示作为正样本,不同节点的表示作为负样本,约束正负样本的表示距离,提升模型的表示学习能力和鲁棒性。
-
公开(公告)号:CN119067197A
公开(公告)日:2024-12-03
申请号:CN202410975858.3
申请日:2024-07-19
Applicant: 北京邮电大学
IPC: G06N3/098 , G06N3/042 , G06N3/0455 , G06N3/0895 , G06F18/2431 , G06F18/23 , G06F18/214 , H04L67/10 , G06Q50/26
Abstract: 本发明提供一种基于聚合策略的事件检测模型联邦训练系统和方法,客户端使用本地训练集对本地的事件检测模型进行训练,得到训练后的事件检测模型,并将事件检测模型对应的模型参数发送至服务器;服务器接收到客户端发送的模型参数后,基于各个客户端对应的聚合权重,对模型参数进行模型参数聚合,得到全局事件检测模型参数,并将全局事件检测模型参数发送至各个客户端;各个客户端接收全局事件检测模型参数,使用全局事件检测模型参数更新事件检测模型并存储;在未完成预设训练轮次的情况下,各个客户端执行下一轮次的模型训练;能够解决一个机构只能掌握少量的数据,不同机构不能共享数据,导致缺乏训练数据,从而导致事件检测的性能较低的问题。
-
公开(公告)号:CN116561346A
公开(公告)日:2023-08-08
申请号:CN202310819919.2
申请日:2023-07-06
Applicant: 北京邮电大学
IPC: G06F16/36 , G06F40/279 , G06F18/22 , G06N3/042 , G06N3/045 , G06N3/0464 , G06N3/08
Abstract: 本发明提供一种基于图卷积网络和信息融合的实体对齐方法及装置,所述方法的步骤包括:获取文献基础数据,文献基础数据包括文献中的实体之间的关系、实体对应的属性和实体在文献中的描述语句;基于文献中的实体之间的关系构建第一输入矩阵,将第一输入矩阵输入到预设的第一模型中,第一模型输出第一嵌入矩阵;基于实体对应的属性构建第二输入矩阵,将第二输入矩阵输入到预设的第二模型中,第二模型输出第二嵌入矩阵;将实体在文献中的描述语句输入到第三模型中,第三模型输出第三嵌入矩阵;基于第一嵌入矩阵、第二嵌入矩阵和第三嵌入矩阵构建联合矩阵;将联合矩阵中的每一行构建为对应一个实体的实体向量,基于实体向量之间的距离进行实体对齐。
-
公开(公告)号:CN119066605A
公开(公告)日:2024-12-03
申请号:CN202410960826.6
申请日:2024-07-17
Applicant: 北京邮电大学
Abstract: 本发明提供一种基于强化学习的联邦学习鲁棒性聚合方法及系统,该方法包括以下步骤:服务端节点接收客户端节点在完成本地训练后上传的模型参数;将每个客户端节点上传的模型参数构建为初始参数向量,将服务端节点当前的模型参数构建为本轮参数向量,基于所述初始参数向量、当前的本轮参数向量和客户端节点当前的权重值计算几何中值向量;计算每个客户端节点当前的初始参数向量与几何中值向量的距离,并构建为状态向量输入到强化学习模型中,所述强化学习模型对应每个客户端节点输出更新的权重值;基于每个客户端节点输出更新的权重值、所述初始参数向量和当前的本轮参数向量计算模型参数向量,所述模型参数向量中各个维度的值均为模型参数。
-
公开(公告)号:CN116957067B
公开(公告)日:2024-04-26
申请号:CN202310777807.5
申请日:2023-06-28
Applicant: 北京邮电大学
IPC: G06N3/098 , G06N3/0464 , G06F18/2321 , G06N7/01 , G06Q50/26
Abstract: 本申请提供一种公共安全事件预测模型的强化联邦学习方法及装置,方法包括:针对各个节点各自本地的公共安全事件预测子模型的特征向量进行马尔科夫决策以得到当前的目标聚类参数,并基于OPTICS聚类算法对各个特征向量进行聚类以将节点划分至不同的聚簇并生成全局模型参数;若当前的迭代轮次为最后轮次,则将全局模型参数作为目标公共安全事件预测模型来对公共网络平台实时发布的文本数据进行公共安全事件预测。本申请能够在模型训练阶段实现高效的数据记录、学习和更新,同时可以在保护用户隐私的前提下实现数据的共享和聚合,能够实现针对文本数据进行公共安全事件发生及类型的自动化预测,能够有效提高公共安全事件预测的准确性及可靠性。
-
公开(公告)号:CN117272017A
公开(公告)日:2023-12-22
申请号:CN202311071070.1
申请日:2023-08-23
Applicant: 北京邮电大学
IPC: G06F18/213 , G06F18/241 , G06F18/25 , G06V10/40 , G06V10/764 , G06V10/774 , G06V10/80 , G06V10/82 , G06N3/045 , G06N3/0475 , G06N3/094 , G06N3/098 , G06N3/042
Abstract: 本发明提供一种异质图数据节点嵌入特征提取模型训练方法、嵌入特征提取方法、节点分类方法及装置,基于联邦学习的形式,在各客户端本地构建生成器和鉴别器利用对抗学习训练本地模型,并在中央服务器进行模型参数的聚合,有效保证数据隐私。同时,各客户端在本地训练的过程中,通过跨客户端通信,获取目标节点关联的跨客户端邻居节点的原始特征,并基于top‑k随机游走平的采样各类邻居参与到嵌入学习中,降低客户端数据差异对训练影响,提升联邦异质图神经网络的学习质量,提高了下游子任务的执行效率。
-
公开(公告)号:CN116614484B
公开(公告)日:2023-11-10
申请号:CN202310884262.8
申请日:2023-07-19
Applicant: 北京邮电大学
Abstract: 本申请提供一种基于结构增强的异质数据联邦学习方法及相关设备包括接收服务器端的全局模型根据全局模型对本地网络模型进行初始化;响应于确定完成所述初始化,获取本地数据根据本地数据对所述本地网络模型进行正则化训练确定第一损失函数;响应于确定完成训练获取预设采样系数和预设采样宽度对本地网络模型进行结构增强训练,根据预设采样系数和所述预设采样宽度对所述本地网络模型进行采样确定若干子网络模型;对所述本地数据进行数据增强处理确定训练用数据,根据所述训练用数据对若干所述子网络模型进行更新训练确定全局损失函数;根据全局损失函数对本地网络模型的权重进行更新将所述全局损失函数将更新的所述本地网络模型上传所述服务器端。
-
公开(公告)号:CN116541779A
公开(公告)日:2023-08-04
申请号:CN202310826334.3
申请日:2023-07-07
Applicant: 北京邮电大学 , 北京极智嘉科技股份有限公司
IPC: G06F18/2415 , G06N3/042 , G06Q10/0637 , G06Q50/00 , G06F18/214 , G06F18/25 , H04L67/10
Abstract: 本发明提供一种个性化公共安全突发事件检测模型训练方法、检测方法及装置,包括:获取完成当前轮次训练的各客户端的本地检测模型及其梯度;将构建的随机图输入各客户端本地检测模型,计算得到各客户端模型的梯度状态;在各客户端部署强化学习模块,以本地检测模型准确率构建奖励值;将基于策略网络得到的所有客户端之间梯度聚合的动作归一化,得到各客户端梯度的权重,根据权重确定下一轮参与聚合的客户端以及是否进行梯度量化;重复进行多轮训练,直至得到各客户端的公共安全突发事件检测模型。本发明提供的训练方法能够减小本地数据非独立同分布的影响,减小梯度通信的消耗,平衡模型的性能与通信压力。
-
-
-
-
-
-
-
-
-