-
公开(公告)号:CN118447353A
公开(公告)日:2024-08-06
申请号:CN202410589247.5
申请日:2024-05-13
Applicant: 中国科学院信息工程研究所
IPC: G06V10/80 , G06V30/19 , G06F40/289
Abstract: 本发明公开了一种基于模态融合的图文虚假信息检测方法及系统,属于网络安全技术领域。本发明通过识别原始图像中的文本与补充原始文本的不足,利用预训练模型XLnet、Swin‑T、CLIP提取文本特征和图像特征,再经过MMoE处理得到各自2组的不同的文本特征和图像特征,通过其中各1组文本特征提取文本综合特征,通过其中各1组图像特征提取图像综合特征,通过余下各1组文本特征和图像特征的融合得到模态融合特征,将得到的特征拼接后输入辨别器,检测图文中的虚假信息。本发明能够增强对图文虚假信息的检测能力,有效解决图文虚假信息中图片里文字信息面积区域占比过大或图片因素关系不大影响辨别效果的问题。