多阶段对比知识蒸馏方法
    11.
    发明公开

    公开(公告)号:CN117095217A

    公开(公告)日:2023-11-21

    申请号:CN202311064055.4

    申请日:2023-08-22

    Abstract: 本发明公开了一种多阶段对比知识蒸馏方法。该方法包括:获取训练样本图像和与训练样本图像对应的理论分类标签,并对训练样本图像进行数据增强,得到至少一张待处理样本图像,基于至少一张待处理样本图像和理论分类标签,构建训练样本;基于预先训练完成的教师网络对训练样本进行处理,得到第一平滑化概率分布和与多个教师子模型对应的第一模型输出;将训练样本输入至待训练学生网络中,得到实际输出结果以及与多个学生子模型对应的第二模型输出;确定目标模型损失,并基于目标模型损失对待训练学生模型进行模型参数调整,得到图像分类模型。本技术方案,实现了训练完成的学生网络的性能进一步接近甚至超过教师网络性能的效果。

    一种面向社交网络的热点事件预测方法

    公开(公告)号:CN113806534B

    公开(公告)日:2023-04-18

    申请号:CN202111032195.4

    申请日:2021-09-03

    Abstract: 本发明属于热点事件预测技术领域,具体提供一种面向社交网络的热点事件预测方法,用以解决现有技术中文本数据价值挖掘不够、动态时序特征与上下文语义信息利用不充分等技术问题。本发明首先,基于图卷积神经网络捕捉文本邻域语义信息,能够充分挖掘关键词语之间的依存关系;其次,提出维度注意力机制,改进图神经网络的动态分层传播方式,通过维度注意力机制生成重点特征摘要,并将其用于缩放原特征,自适应地调整各个维度特征响应值,增加事件预测中有价值词语的权重,同时抑制价值较弱词语的权重,即充分捕捉社交网络文本时变信息;最终,基于关键词语邻域信息与时序信息充分挖掘文本数据价值,提高模型预测的准确率,具有实用价值。

    一种基于知识融合的推理问答方法

    公开(公告)号:CN115730058A

    公开(公告)日:2023-03-03

    申请号:CN202211559297.6

    申请日:2022-12-06

    Abstract: 本发明公开了一种基于知识融合的推理问答方法,其中,该方法包括:获取待处理问题文本中的关键实体和非关键实体,并确定关键实体对应的第一解释文本信息和非关键实体对应的第二解释文本信息;基于关键实体、非关键实体、第一解释文本信息和第二文本信息,确定与待处理问题文本对应的待使用背景知识向量;确定与待处理问题文本对应的待使用问题向量,并基于待使用问题向量和待使用背景知识向量,得到目标问题向量;确定与目标问题向量对应的至少一个候选答案实体,并根据各候选答案实体对应的答案评估属性,得到目标答案实体,以基于目标答案实体确定与待处理问题文本对应的目标答案。取到了更加准确的确定与输入问题相对应的答案信息的效果。

    一种基于用户兴趣建模的新闻推荐方法

    公开(公告)号:CN115481236A

    公开(公告)日:2022-12-16

    申请号:CN202211053861.7

    申请日:2022-08-31

    Abstract: 本发明公开了一种基于用户兴趣建模的个性化新闻推荐方法,包括步骤:获得新闻文本数据,将文本数据进行预处理,删除停用词,向量化等操作;将向量化的新闻数据输送到文本特征提取器进行特征抽取,获得新闻特征;构建基于用户兴趣的新闻推荐模型,结合残差图卷积网络模块与用户热兴趣模块,输出用户点击概率;模型训练,模型训练基于交叉熵损失函数进行训练;对输入的一系列候选新闻的点击预测概率进行排序,输出设定好的前K篇新闻作为推荐结果。本发明用于用户个性化的新闻推荐,能有效提升推荐有效性。

    一种基于图神经网络的推荐方法
    15.
    发明公开

    公开(公告)号:CN115391599A

    公开(公告)日:2022-11-25

    申请号:CN202211049084.9

    申请日:2022-08-30

    Abstract: 本发明公开了一种基于图神经网络的推荐方法,其中,该方法包括:根据目标用户以及与所述目标用户相关联的关联用户,确定第一关联用户向量;根据与所述目标用户以及所述关联用户所对应的关联影音作品,确定第二关联用户向量以及与各关联影音作品相对应的关联影音向量;基于所述关联影音向量,确定至少一个待推送影音向量;根据所述第一关联用户向量、所述第二关联用户向量、所述关联影音向量以及所述待推送影音向量,确定至少一个目标影音作品。解决了向用户推荐的影音作品与用户匹配度不够准确的问题,取到了根据用户的关联用户以及关联影音作品,为用户推荐匹配度更高的影音作品的效果。

    一种面向社交网络的热点事件预测方法

    公开(公告)号:CN113806534A

    公开(公告)日:2021-12-17

    申请号:CN202111032195.4

    申请日:2021-09-03

    Abstract: 本发明属于热点事件预测技术领域,具体提供一种面向社交网络的热点事件预测方法,用以解决现有技术中文本数据价值挖掘不够、动态时序特征与上下文语义信息利用不充分等技术问题。本发明首先,基于图卷积神经网络捕捉文本邻域语义信息,能够充分挖掘关键词语之间的依存关系;其次,提出维度注意力机制,改进图神经网络的动态分层传播方式,通过维度注意力机制生成重点特征摘要,并将其用于缩放原特征,自适应地调整各个维度特征响应值,增加事件预测中有价值词语的权重,同时抑制价值较弱词语的权重,即充分捕捉社交网络文本时变信息;最终,基于关键词语邻域信息与时序信息充分挖掘文本数据价值,提高模型预测的准确率,具有实用价值。

    一种基于先验原型注意力机制的人体图像多属性分类方法

    公开(公告)号:CN112418261A

    公开(公告)日:2021-02-26

    申请号:CN202010977999.0

    申请日:2020-09-17

    Abstract: 本发明公开了一种基于先验原型注意力机制的人体图像多属性分类方法,属于图像处理技术领域。本发明的方案为:首先构建属性表和对应的人体图像数据集;然后构建多属性分类的神经网络模型:在惯用的多分类神经网络模型的尾部加入先验原型注意力机制插件,并将多分类神经网络的尾部改为多属性分类网络。接着训练所构建的神经网络模型;最后,基于训练好的神经网络模型对人体图像进行多属性的分类识别。本发明一方面保留了传统注意力机制的做法,用生成的注意力图与最后一个卷积特征进行逐点乘法运算,从而保留了传统注意力机制的强过滤性。另一方面通过先验原型注意力图线性组合的方式,增强了注意力图的集中性。因而极大地提升了模型的泛化能力。

    一种基于解纠缠表示的对比文本风格迁移方法

    公开(公告)号:CN119150873A

    公开(公告)日:2024-12-17

    申请号:CN202411126642.6

    申请日:2024-08-16

    Abstract: 本发明涉及文本风格迁移技术,提供一种基于解纠缠表示的对比文本风格迁移方法,旨在于解决现有的文本风格迁移不足以精确表示风格迁移中的风格特征以及由学习的隐表示生成具有目标风格文本困难等问题。本发明主要包括:预训练解纠缠表示模型,通过将特征表示解离为风格表示和内容表示,以获得更精确的文本表示方法;基于解纠缠表示的对比文本风格迁移方法,基于上述模块得到更精确地表示后,通过引入自生成的增强数据样本作为新的样本来构造对比样本,并选择合适的对比损失和对比训练策略来引导风格迁移模型的学习使得最终模型学习到了将输入文本现有风格迁移到目标风格的能力。

Patent Agency Ranking