基于关键帧指导超分辨率的视频压缩方法及装置

    公开(公告)号:CN112019861B

    公开(公告)日:2021-09-14

    申请号:CN202010698136.X

    申请日:2020-07-20

    Applicant: 清华大学

    Abstract: 本发明公开了一种基于关键帧指导超分辨率的视频压缩方法及装置,其中,方法包括:将输入视频以帧序列的形式输入到关键帧选取网络,得到输入视频的高分辨率关键帧;将输入视频以帧序列进行下采样得到输入视频的低分辨率帧序列;将高分辨率关键帧和低分辨率帧序列输入到生成器中,生成超分辨率视频。该方法对高清的输入视频进行下采样后进行压缩,同时从中选择出关键帧在视频解压后用作视频超分辨率的指导,既达到高度的视频压缩,又能从中恢复出高质量的视频。

    基于双路交叉注意力网络的视频重要区域预测方法和装置

    公开(公告)号:CN112906609B

    公开(公告)日:2022-06-07

    申请号:CN202110244995.6

    申请日:2021-03-05

    Applicant: 清华大学

    Abstract: 本发明提出一种基于双路交叉注意力网络的视频重要区域预测方法和装置,其中,方法包括:将第一视频流输入短时通路特征提取器,获取第一参考特征;将第二视频流输入长时通路特征提取器,获取第二参考特征,其中,第一视频流和第二视频流的最后一帧视频帧的时间t相同;确定与预设的预测间隔m对应的初始矩阵,并融合初始矩阵、第一参考特征和第二参考特征获取中间特征;将第一参考特征和中间特征输入预设的第一交叉注意力模型获取第一重建特征将第二参考特征和中间特征输入预设的第二交叉注意力模型获取第二重建特征;根据第一重建特征和第二重建特征获取融合特征,并根据融合特征获取t+m帧视频帧。提高了视频帧的预测准确性。

    基于关键帧指导超分辨率的视频压缩方法及装置

    公开(公告)号:CN112019861A

    公开(公告)日:2020-12-01

    申请号:CN202010698136.X

    申请日:2020-07-20

    Applicant: 清华大学

    Abstract: 本发明公开了一种基于关键帧指导超分辨率的视频压缩方法及装置,其中,方法包括:将输入视频以帧序列的形式输入到关键帧选取网络,得到输入视频的高分辨率关键帧;将输入视频以帧序列进行下采样得到输入视频的低分辨率帧序列;将高分辨率关键帧和低分辨率帧序列输入到生成器中,生成超分辨率视频。该方法对高清的输入视频进行下采样后进行压缩,同时从中选择出关键帧在视频解压后用作视频超分辨率的指导,既达到高度的视频压缩,又能从中恢复出高质量的视频。

    基于串并联查找表的轻量化图像超分辨率重建方法及装置

    公开(公告)号:CN115115912B

    公开(公告)日:2024-06-07

    申请号:CN202210583275.7

    申请日:2022-05-26

    Applicant: 清华大学

    Abstract: 本发明公开了基于串并联查找表的轻量化图像超分辨率重建方法及装置,该方法包括:对输入图像进行特征提取,输出第一像素图像和第二像素图像;输入并联网络利用第一查找表提取第一图像邻域结构信息和第二图像邻域结构信息;对输入特征图预设分组数,基于分组后的输入特征图进行特征聚合,将聚合后的特征图进行融合操作并输出第一融合特征图和第二融合特征图;加和操作输出得到超分图像。该方法解决现有基于查找表的高效图像超分方法中因查找表规模限制导致的信息损失的问题,通过串并联查找表方法,串联网络堆叠多个感受野较小的查找表来逐渐扩大感受野,并联网络补偿量化输入像素值带来的精度损失,从而实现快速、准确的超分图像推理。

    基于串并联查找表的轻量化图像超分辨率重建方法及装置

    公开(公告)号:CN115115912A

    公开(公告)日:2022-09-27

    申请号:CN202210583275.7

    申请日:2022-05-26

    Applicant: 清华大学

    Abstract: 本发明公开了基于串并联查找表的轻量化图像超分辨率重建方法及装置,该方法包括:对输入图像进行特征提取,输出第一像素图像和第二像素图像;输入并联网络利用第一查找表提取第一图像邻域结构信息和第二图像邻域结构信息;对输入特征图预设分组数,基于分组后的输入特征图进行特征聚合,将聚合后的特征图进行融合操作并输出第一融合特征图和第二融合特征图;加和操作输出得到超分图像。该方法解决现有基于查找表的高效图像超分方法中因查找表规模限制导致的信息损失的问题,通过串并联查找表方法,串联网络堆叠多个感受野较小的查找表来逐渐扩大感受野,并联网络补偿量化输入像素值带来的精度损失,从而实现快速、准确的超分图像推理。

    基于梯度的保持几何结构的图像超分辨率方法

    公开(公告)号:CN111754399A

    公开(公告)日:2020-10-09

    申请号:CN202010479674.X

    申请日:2020-05-29

    Applicant: 清华大学

    Abstract: 本发明公开了一种基于梯度的保持几何结构的图像超分辨率方法,包括以下步骤:将低清图片输入生成网络,其中,生成网络包括超分分支和梯度分支,两个分支分别对输入的低清图像进行特征提取,梯度分支会将超分分支的部分中间特征作为输入,进行梯度的重建;之后将重建后的梯度特征输送回超分分支,使超分分支掌握梯度的相关信息。最后对于生成的梯度图和超分图片,利用提出的梯度目标方程,对生成网络进行约束和优化,最终训练的模型即可生成保持几何结构的清晰图片。该方法既能保持生成图像的几何结构又能保证图像修复的清晰程度。

    基于双路交叉注意力网络的视频重要区域预测方法和装置

    公开(公告)号:CN112906609A

    公开(公告)日:2021-06-04

    申请号:CN202110244995.6

    申请日:2021-03-05

    Applicant: 清华大学

    Abstract: 本发明提出一种基于双路交叉注意力网络的视频重要区域预测方法和装置,其中,方法包括:将第一视频流输入短时通路特征提取器,获取第一参考特征;将第二视频流输入长时通路特征提取器,获取第二参考特征,其中,第一视频流和第二视频流的最后一帧视频帧的时间t相同;确定与预设的预测间隔m对应的初始矩阵,并融合初始矩阵、第一参考特征和第二参考特征获取中间特征;将第一参考特征和中间特征输入预设的第一交叉注意力模型获取第一重建特征将第二参考特征和中间特征输入预设的第二交叉注意力模型获取第二重建特征;根据第一重建特征和第二重建特征获取融合特征,并根据融合特征获取t+m帧视频帧。提高了视频帧的预测准确性。

    注意力修复和关键点检测迭代协同的人脸超分方法

    公开(公告)号:CN111753670A

    公开(公告)日:2020-10-09

    申请号:CN202010479778.0

    申请日:2020-05-29

    Applicant: 清华大学

    Abstract: 本发明公开了一种注意力修复和关键点检测迭代协同的人脸超分方法,包括:将低清图片输入到超分分支当中,得到第一代超分图片和超分反馈;其次人脸关键点检测分支用第一代超分图片作为输入,得到该分支的反馈和关键点热图;在之后的每一次迭代中,超分分支会将关键点热图输入到注意力融合模块当中,进行人脸图片的注意力修复,输出最终超分辨率图像,同时,人脸检测分支也将超分分支的输出作为输入,从而预测出更为准确的关键点。该方法能够对不同的人脸部位进行专门的学习和生成,大大提高了人脸超分的性能。

Patent Agency Ranking