基于推敲注意力机制的图像描述生成系统及方法

    公开(公告)号:CN109726696B

    公开(公告)日:2023-04-07

    申请号:CN201910004805.6

    申请日:2019-01-03

    Abstract: 本发明涉及图像理解领域,其公开了一种基于推敲注意力机制的图像描述生成系统及方法,解决现有图像描述方案存在的缺少润色过程、训练和测试过程不一致、生成描述辨识度不高的问题。该方法包括:a.数据集的处理:提取图像的全局特征和局部特征,构建数据集,对数据集中的单词进行标记,生成对应的词嵌入向量;b.训练图像描述生成模型:采用第一层基于残差注意力机制的解码器生成粗略的图像描述,采用第二层基于残差注意力机制的解码器对已生成的图像描述进行润色;c.结合强化学习进一步训练模型:在训练过程中模拟模型的测试过程,并且以生成描述的CIDEr分数来引导模型的训练,结合强化学习对模型进行调整。

    基于推敲注意力机制的图像描述生成系统及方法

    公开(公告)号:CN109726696A

    公开(公告)日:2019-05-07

    申请号:CN201910004805.6

    申请日:2019-01-03

    Abstract: 本发明涉及图像理解领域,其公开了一种基于推敲注意力机制的图像描述生成系统及方法,解决现有图像描述方案存在的缺少润色过程、训练和测试过程不一致、生成描述辨识度不高的问题。该方法包括:a.数据集的处理:提取图像的全局特征和局部特征,构建数据集,对数据集中的单词进行标记,生成对应的词嵌入向量;b.训练图像描述生成模型:采用第一层基于残差注意力机制的解码器生成粗略的图像描述,采用第二层基于残差注意力机制的解码器对已生成的图像描述进行润色;c.结合强化学习进一步训练模型:在训练过程中模拟模型的测试过程,并且以生成描述的CIDEr分数来引导模型的训练,结合强化学习对模型进行调整。

    一种基于文本的行人检索自监督视觉表示学习系统及方法

    公开(公告)号:CN111860193A

    公开(公告)日:2020-10-30

    申请号:CN202010590313.2

    申请日:2020-06-24

    Abstract: 本发明提供了一种基于文本的行人检索自监督视觉表示学习系统及方法,其基本思想是通过构建辅助任务(性别判断和行人相似性回归)使得模型关注行人的细节信息,并且学习到具有鲁棒性的视觉特征,从而更加准确地检索目标人物的图片,其次,为了利用图片中的物体信息,本发明构建模型提取行人与物体之间的关系,并且对这些关系进行筛选和汇总。本发明通过以上设计,解决了现有的网络只关注图片和文本之间的相似度,却忽略了图片中行人的细节信息,以无法获取样本之间具体的相似度值,缺少监督信息的问题。

Patent Agency Ranking