基于扩散模型的缺失模态生成方法、系统及存储介质

    公开(公告)号:CN118072143A

    公开(公告)日:2024-05-24

    申请号:CN202410282313.4

    申请日:2024-03-13

    Inventor: 文杰 邓世杰

    Abstract: 本发明公开一种基于扩散模型的缺失模态生成方法、系统及存储介质,方法包括:基于条件扩散模型构建基于UNet主干网络的缺失模态生成网络模型,多模态各自对应一个缺失模态生成网络模型,模型训练时输入包括对样本缺失模态加噪的带噪数据、加噪程度,以及其它未缺失模态组成的条件模态,输出为该样本缺失模态带噪数据中的噪声预测值;本发明方法还包括从现有数据中构建更高缺失率的样本作为模型训练的补充数据,用于提高模型处理不同类型数据缺失情况的能力;利用模型输出的预测噪声对带噪数据进行去噪,即得到缺失模态信息。本发明方法不仅能够灵活的应对任意模态缺失下的缺失模态生成任务,而且模型训练稳定,具有较好的缺失模态复原结果。

Patent Agency Ranking