一种基于深度神经网络的异构网络推荐方法

    公开(公告)号:CN111832724B

    公开(公告)日:2023-03-28

    申请号:CN202010674870.2

    申请日:2020-07-14

    Abstract: 本发明公开了一种基于深度神经网络的异构网络推荐算法,包括如下步骤:S1:用户和物品的全局局部信息的向量表征;S2:利用螺栓遗传算法对元路径种类进行自动选取;S3:获取最优的X种元路径种类下的元路径实例;S4:获取基于元路径的交互向量;S5:用户,物品全局局部信息融合;S6:使用协同注意力机制,对用户和物品的向量表征进行加强;S7:用户,物品对的评分获取;S8:构建损失函数优化参数;S9:重复步骤1‑8,当lu,i稳定趋于一个很小的阈值ε(ε>0)时,停止训练,即得到了一个基于深度神经网络的异构网络推荐模型。本发明利用遗传算法自动获取有价值的元路径种类,减少人为因素的干扰;通过节点域和网络结构信息挖掘异构网络中的全局和局部信息。

    涉密文档的检测方法、装置及存储介质

    公开(公告)号:CN110298024B

    公开(公告)日:2022-10-11

    申请号:CN201810232937.X

    申请日:2018-03-21

    Abstract: 本发明实施例提供一种涉密文档的检测方法、装置及存储介质,该涉密文档的检测方法包括:对待检测文档进行分词处理,得到N个词;N为大于等于2的整数;通过循环神经网络模型在N个词中提取M个关键词;其中,M为小于N的整数;将M个关键词与涉密词库中的关键词进行匹配,若匹配率大于第一阈值,则确定待检测文档为涉密文档。本发明实施例提供的涉密文档的检测方法、装置及存储介质,提高了检测效率,且提高了检测的准确度。

    一种基于异构网络的引文推荐算法

    公开(公告)号:CN111831910A

    公开(公告)日:2020-10-27

    申请号:CN202010674143.6

    申请日:2020-07-14

    Abstract: 本发明公开的一种基于异构网络的引文推荐算法,具体包括如下步骤:S1、二元异构引文网络构建;S2、初始化作者节点向量表示vA以及文本内容向量表示;S3、生成基于结构信息的paper向量表征 S4、生成基于文本信息的paper向量表征 S5、联合交互,相互增强:S6、重复步骤S4-5、直到模型收敛,完成训练;S7、获取训练集中所有paper和author的最终向量,保存训练好的模型;S8、调用训练好的模型参数,即可得到测试集中每个paper的向量表示;S9、计算测试集中每篇paper和训练集中所有paper的余弦相似度,按照相似度从大到小排序,取前K个paper作为最终的推荐结果。本发明既能结合结构信息提高算法性能,又能对未知文档进行预测。

    一种大语言模型微调和Adapter融合方法及装置

    公开(公告)号:CN117708307B

    公开(公告)日:2024-05-14

    申请号:CN202410170139.4

    申请日:2024-02-06

    Abstract: 本发明公开了一种大语言模型微调和Adapter融合方法及装置,涉及深度学习领域。用于解决现有多模态数据集的构建因需要人工进行数据收集导致消耗大且数据质量较差的问题。该方法包括:从设定网络平台上收集多个问答数据集和对话数据集;对问答数据集和对话数据集分别进行LoRA‑adapter微调,依次得到问答大语言模型、问答负对数似然损失函数、对话大语言模型和对话负对数似然损失函数;得到问答数据集和对话数据集在理想状态下的理想损失函数、理想融合权重和第一理想参数;得到问答LoRA‑adapter的最佳参数、对话LoRA‑adapter的最佳参数和最佳融合参数;根据问答LoRA‑adapter的最佳参数、对话LoRA‑adapter的最佳参数和所述最佳融合参数得到通用LORA‑adapter。

    一种生成式摘要模型构建、提取生成式摘要方法及系统

    公开(公告)号:CN111966820B

    公开(公告)日:2023-03-24

    申请号:CN202010714359.0

    申请日:2020-07-21

    Abstract: 一种生成式摘要模型构建、提取生成式摘要方法及系统,通过在传统的编码解码网络结合HITS注意力的重要性排序方法和分层解码算法等,并HITS注意力的重要性排序方法来迭代学习文档向量,每次解码会将上一时刻输出的生成句子向量与得分较高且未被参考过的已排序原文对应句子再次进行计算,直至得到收敛时刻得到的生成句子向量集、生成词向量集和收敛时刻的句子重要性排序,最后利用解码生成算法得到生成摘要文本。以此能够学习更多文本里的显著信息,降低结果中的冗余重复,维持生成结果的流畅度,产生出高质量的生成式摘要结果,整体自动化程度高,不需要进行人工干预。

    基于多任务学习的单文档摘要生成模型构建方法及装置

    公开(公告)号:CN111723196B

    公开(公告)日:2023-03-24

    申请号:CN202010435810.5

    申请日:2020-05-21

    Abstract: 本发明公开了一种基于多任务学习的单文档摘要生成模型构建方法及装置,设计的模型结构采用了Transformer基础模型,并且在编码器的输出端,增加了一个编码器和分类器。其中两个编码器分为单词级别的解码器分别为,单词级别的编码器、句子级别的编码器;使得多任务训练成为可能;解码器的注意力分配会更加合理,因为加入根据解码器注意力权重与句子的重要性权重计算得到的正则项,能够倾向于更适合作为摘要的句子分配更多的权重;并且通过不同任务发掘模型潜力,从而提高了生成的摘要句子的可读性以及信息量。

    基于深度学习与链接预测的嵌入表示获得及引文推荐方法

    公开(公告)号:CN110688474B

    公开(公告)日:2023-03-14

    申请号:CN201910826787.X

    申请日:2019-09-03

    Abstract: 本发明提供了一种基于深度学习与链接预测的引文推荐方法,包括以下步骤:步骤1,获取已知论文库中所有论文结点特征信息和已知论文库的引文网络;步骤2,将论文结点分别在引文网络中进行传播,得到每个论文结点的嵌入表示;步骤3,输入待推荐引文的论文结点,计算待推荐引文的论文结点的嵌入表示;步骤4,根据待推荐引文的论文结点的嵌入表示和已知论文库中每个论文结点的嵌入表示,计算待推荐引文的论文结点和已知论文库中每个论文结点的余弦相似度,并选取前t个余弦相似度所对应的论文结点作为待推荐引文的论文结点的引文列表。

    一种基于概念漂移的漏洞攻击流量检测方法及检测系统

    公开(公告)号:CN113938292A

    公开(公告)日:2022-01-14

    申请号:CN202111098847.4

    申请日:2021-09-18

    Abstract: 本发明公开了一种基于概念漂移的漏洞攻击流量检测方法及检测系统,步骤一、漏洞攻击流量收集:给每个节点分配控制信息传输频率;根据节点分配的pi向收集中心传输样本的控制信息;依据控制信息,以最小化样本窗口的AoI为目标,收集中心采用调度算法进行流量样本的调度收集;步骤二、构建检测模型:以步骤一形成的流量样本数据集为检测模型的输入,所述的检测模型为全局比对Needleman‑Wunsch算法;步骤三、模型更新:比较当前收集到的新样本窗口与前次的旧样本窗口,检测是否出现了概念漂移;如果出现了概念漂移,对步骤二构建的检测模型进行更新,否则不更新。能够通过流量收集模块更好的收集实时流量用于概念漂移的检测,并更新检测模型提高检测率。

    一种基于深度学习的网络表征获取方法

    公开(公告)号:CN110674922A

    公开(公告)日:2020-01-10

    申请号:CN201910747332.9

    申请日:2019-08-14

    Abstract: 本发明提供了一种基于深度学习的网络表征获取方法,包括以下步骤:步骤1,获取含有节点内容的网络,所述含有节点内容的网络包括|V|个节点,从|V|个节点中任选一个节点作为当前根节点,根据当前根节点对所述含有节点内容的网络进行随机游走,得到内容序列 和节点标识序列步骤2,将内容序列输入到基于注意力机制下的深度学习模型,得到预测的标识向量序列,即得到网络表征向量。本发明将深度学习技术在机器翻译方向的研究成果应用到了网络表征学习中,从机器翻译的角度将网络的内容和结构相融合得到合适的网络表征向量。

Patent Agency Ranking