- 专利标题: 基于对抗生成网络的多模态影像生成方法和装置
-
申请号: CN202310699766.2申请日: 2023-06-14
-
公开(公告)号: CN116433795B公开(公告)日: 2023-08-29
- 发明人: 李劲松 , 张楚杰 , 陈延伟 , 童若锋 , 林兰芬
- 申请人: 之江实验室
- 申请人地址: 浙江省杭州市余杭区中泰街道科创大道之江实验室
- 专利权人: 之江实验室
- 当前专利权人: 之江实验室
- 当前专利权人地址: 浙江省杭州市余杭区中泰街道科创大道之江实验室
- 代理机构: 杭州天勤知识产权代理有限公司
- 代理商 曹兆霞
- 主分类号: G06T11/00
- IPC分类号: G06T11/00 ; G06T7/33 ; G06N3/0464 ; G06N3/0475 ; G06N3/048 ; G06N3/084
摘要:
本发明公开了一种基于对抗生成网络的多模态影像生成方法和装置,包括:获取同一目标的第一模态影像和第二模态影像,对第一模态影像进行增强得到两幅增强后模态影像;构建包括生成器和判别器的对抗生成网络,其中,生成器基于第一模态影像及其两幅增强后模态影像生成三幅预测第二模态影像,判别器对第二模态影像和第一模态影像对应的预测第二模态影像进行真伪区分判别,判别器还计算输出两幅增强后模态影像对应的两幅预测第二模态影像在判别器中间层的两幅中间特征图;基于两幅中间特征图构建特征之间的对比损失,将对比损失结合对抗生成网络的原有损失对对抗生成网络进行参数优化,提取参数优化的生成器用于多模态影像生成,以提高影像精度。
公开/授权文献
- CN116433795A 基于对抗生成网络的多模态影像生成方法和装置 公开/授权日:2023-07-14
IPC分类:
G | 物理 |
G06 | 计算;推算或计数 |
G06T | 一般的图像数据处理或产生 |
G06T11/00 | 2D〔二维〕图像的生成 |