-
公开(公告)号:CN118350379B
公开(公告)日:2024-09-17
申请号:CN202410787492.7
申请日:2024-06-18
Applicant: 中国科学技术大学
Abstract: 本发明公开一种提升知识系统中自然语言处理准确性的方法、设备及介质,方法包括:步骤1,将待处理知识系统的自然语言构建为待补全知识图谱;步骤2,获取每个三元组的语义模式;步骤3,用语义模式对三元组填充合适的词获得多个语义完整的候选句子;步骤4,添加提示句得出将任务形式转为掩蔽语言建模预训练任务的多个带有完整语义的提示句作为正、负训练样本;步骤5,将正、负训练样本输入预训练语言模型,用交叉熵损失训练预训练语言模型直到满足训练条件;步骤6,用训练好预训练语言模型补全待补全知识图谱;步骤7,处理补全后的知识图谱得出处理结果。该方法提升了智能知识系统中对应知识图谱的自然语言处理的准确性。
-
公开(公告)号:CN118350379A
公开(公告)日:2024-07-16
申请号:CN202410787492.7
申请日:2024-06-18
Applicant: 中国科学技术大学
Abstract: 本发明公开一种提升知识系统中自然语言处理准确性的方法、设备及介质,方法包括:步骤1,将待处理知识系统的自然语言构建为待补全知识图谱;步骤2,获取每个三元组的语义模式;步骤3,用语义模式对三元组填充合适的词获得多个语义完整的候选句子;步骤4,添加提示句得出将任务形式转为掩蔽语言建模预训练任务的多个带有完整语义的提示句作为正、负训练样本;步骤5,将正、负训练样本输入预训练语言模型,用交叉熵损失训练预训练语言模型直到满足训练条件;步骤6,用训练好预训练语言模型补全待补全知识图谱;步骤7,处理补全后的知识图谱得出处理结果。该方法提升了智能知识系统中对应知识图谱的自然语言处理的准确性。
-
公开(公告)号:CN118036655A
公开(公告)日:2024-05-14
申请号:CN202410446003.1
申请日:2024-04-15
Applicant: 中国科学技术大学
Abstract: 本发明公开一种提升图神经网络节点预测准确性的方法、设备及介质,方法包括:步骤1,获取图神经网络属性图的节点属性、图结构数据矩阵、节点标签数据矩阵,根据节点属性的数据模态选择对应的预训练大模型;步骤2,用图结构数据矩阵和节点标签数据矩阵计算出K跳标签;步骤3,根据K跳标签计算反标签,用反标签微调所选择预训练大模型参数的同时固定图神经网络参数;步骤4,固定微调后预训练大模型参数,向该预训练大模型输入节点属性,推理并存储相应的低维节点特征向量;步骤5,基于原始的节点标签数据矩阵训练图神经网络,用训练后的图神经网络按得出的低维节点特征向量和图结构数据矩阵进行节点属性预测。该方法能提升节点预测准确性。
-
公开(公告)号:CN115809686B
公开(公告)日:2023-06-16
申请号:CN202310053879.5
申请日:2023-02-03
Applicant: 中国科学技术大学
Abstract: 本发明公开了一种提升循环图结构数据处理系统处理效率方法、设备及介质,属于图结构数据处理领域,方法包括:步骤1,训练循环图结构数据处理系统的循环图神经网络;步骤2,分别存储每个节点的历史节点均衡表示与历史辅助变量,并通过采样子图方式更新历史节点均衡表示与历史辅助变量;步骤3,在子图消息传递中,用历史节点均衡表示与历史辅助变量近似子图外的精确节点均衡表示与精确辅助变量;步骤4,通过精确辅助变量求出随机梯度并优化循环图神经网络参数,直到完成训练;步骤5,用训练好的循环图神经网络处理图结构数据。该方法通过子图近似随机梯度,只需计算子图节点的均衡表示与梯度,极大提升处理效率,减少了内存和计算开销。
-
公开(公告)号:CN115809686A
公开(公告)日:2023-03-17
申请号:CN202310053879.5
申请日:2023-02-03
Applicant: 中国科学技术大学
Abstract: 本发明公开了一种提升循环图结构数据处理系统处理效率方法、设备及介质,属于图结构数据处理领域,方法包括:步骤1,训练循环图结构数据处理系统的循环图神经网络;步骤2,分别存储每个节点的历史节点均衡表示与历史辅助变量,并通过采样子图方式更新历史节点均衡表示与历史辅助变量;步骤3,在子图消息传递中,用历史节点均衡表示与历史辅助变量近似子图外的精确节点均衡表示与精确辅助变量;步骤4,通过精确辅助变量求出随机梯度并优化循环图神经网络参数,直到完成训练;步骤5,用训练好的循环图神经网络处理图结构数据。该方法通过子图近似随机梯度,只需计算子图节点的均衡表示与梯度,极大提升处理效率,减少了内存和计算开销。
-
-
-
-