语音识别方法、装置、设备及存储介质

    公开(公告)号:CN115565533A

    公开(公告)日:2023-01-03

    申请号:CN202211150707.1

    申请日:2022-09-21

    Abstract: 本申请公开了一种语音识别方法、装置、设备及存储介质,本申请获取说话人说话过程的语音和拍摄的视频,采用多模态语音识别模型处理语音及视频,得到输出的识别文本,其中模型被配置为:从输入的视频中提取视觉特征,从输入的语音中提取声学特征,并基于注意力机制,对视觉特征和声学特征进行编、解码处理,得到预测的识别文本。本申请中的多模态语音识别模型采用注意力机制对视觉特征和声学特征进行编、解码处理,能够充分考虑各帧视觉特征与各帧声学特征间的关注程度,对语音识别准确度提升更高。并且,由于不需要将视觉特征和声学特征进行对齐,也即不需要进行预处理操作,降低了处理的复杂度。

    一种预训练方法及相关方法和设备

    公开(公告)号:CN115952836A

    公开(公告)日:2023-04-11

    申请号:CN202310093381.1

    申请日:2023-01-18

    Abstract: 本发明提供了一种预训练方法及相关方法和设备,其中,预训练方法包括:获取多模态训练数据;基于包括编码部分和辅助训练部分的学生模型,对多模态训练数据进行编码,得到第一编码结果,并基于第一编码结果预测特征;基于只包括编码部分的教师模型,对多模态训练数据进行编码,得到第二编码结果,并基于第二编码结果确定目标特征;以使基于第一编码结果预测的特征趋近于目标特征为目标,对学生模型进行参数更新,教师模型的参数随学生模型参数的更新而更新;训练结束后得到的学生模型作为目标预训练模型。本发明提供的预训练方法可适用于多模态数据应用场景,还可适用于单模态数据应用场景,且本发明提供的预训练方法具有较高的模型训练效率。

    视频信号处理方法、装置、设备及可读存储介质

    公开(公告)号:CN115862626A

    公开(公告)日:2023-03-28

    申请号:CN202211570582.8

    申请日:2022-12-08

    Abstract: 本申请公开了一种视频信号处理方法、装置、设备及可读存储介质。该方案中,在获取待处理的视频信号之后,从视频信号中提取唇语视频;再对唇语视频进行唇语识别处理和基于唇语的语音重建处理,得到预测文本和重构语音;最后将预测文本和重构语音作为视频信号的补充信号。本方案中,同时对视频信号进行唇语识别和基于唇语的语音重建,可以得到重构语音和预测文本,将重构语音和预测文本作为远距离视频监控场景的视频信号的补充信息,能够提升远距离视频监控的有效性,为异常检测,安全预警等提供了更为丰富的数据来源。

    语音识别方法、语音识别模型的训练方法以及相关装置

    公开(公告)号:CN114005438B

    公开(公告)日:2022-05-17

    申请号:CN202111666006.9

    申请日:2021-12-31

    Abstract: 本发明提供一种语音识别方法、语音识别模型的训练方法以及相关装置,语音识别方法包括:确定待识别语音信息的韵律特征,其中,韵律特征包括句子韵律特征和字符韵律特征中至少一种,句子韵律特征表征待识别语音信息的句子含义,字符韵律特征表征待识别语音信息的字符含义,且句子韵律特征基于初步处理待识别语音信息得到的文本信息确定,字符韵律特征包含待识别语音信息中每一字符的韵律特征,当前字符的韵律特征基于上一个字符的韵律特征确定;利用语音识别模型基于韵律特征对待识别语音信息进行文本识别,得到待识别语音信息的文本信息。该方法提高语音识别的准确性,得到更准确的文本识别结果,实现更可靠的识别效果。

    语音识别方法、语音识别模型的训练方法以及相关装置

    公开(公告)号:CN114005438A

    公开(公告)日:2022-02-01

    申请号:CN202111666006.9

    申请日:2021-12-31

    Abstract: 本发明提供一种语音识别方法、语音识别模型的训练方法以及相关装置,语音识别方法包括:确定待识别语音信息的韵律特征,其中,韵律特征包括句子韵律特征和字符韵律特征中至少一种,句子韵律特征表征待识别语音信息的句子含义,字符韵律特征表征待识别语音信息的字符含义,且句子韵律特征基于初步处理待识别语音信息得到的文本信息确定,字符韵律特征包含待识别语音信息中每一字符的韵律特征,当前字符的韵律特征基于上一个字符的韵律特征确定;利用语音识别模型基于韵律特征对待识别语音信息进行文本识别,得到待识别语音信息的文本信息。该方法提高语音识别的准确性,得到更准确的文本识别结果,实现更可靠的识别效果。

Patent Agency Ranking