公开(公告)号：CN114638365B

公开(公告)日：2022-09-06

申请号：CN202210533446.5

申请日：2022-05-17

Applicant: 之江实验室

Inventor： 毛旷 ,  汤昭荣 ,  潘秋红 ,  程云

IPC: G06N5/04 ,  G06N3/08 ,  G06N3/04 ,  G06F40/279

Abstract: 本发明公开了一种机器阅读理解推理方法及装置、电子设备、存储介质，包括：S1：获取输入文本的张量A；S2：将A输入多头注意力层，得到张量B，A与B根据量化参数差距进行选择性求和，得到张量C，对C中的所有向量求第一均值和第一方差并进行归一化，得到张量D，将D输入至第一全连接神经网络，得到张量E，E经过激活函数层得到张量F，F与D根据量化参数差距进行选择性求和，得到张量G，对G中的所有向量求第二均值和第二方差并进行归一化，得到张量H；S3：重复若干次S2，得到张量K；S3：将K输入至第二全连接神经网络，得到输入文本中的每个文字作为答案的开始文字与结束文字的概率，从而得到问题答案。

公开(公告)号：CN114638365A

公开(公告)日：2022-06-17

申请号：CN202210533446.5

申请日：2022-05-17

Applicant: 之江实验室

Inventor： 毛旷 ,  汤昭荣 ,  潘秋红 ,  程云

IPC: G06N5/04 ,  G06N3/08 ,  G06N3/04 ,  G06F40/279

Abstract: 本发明公开了一种机器阅读理解推理方法及装置、电子设备、存储介质，包括：S1：获取输入文本的张量A；S2：将A输入多头注意力层，得到张量B，A与B根据量化参数差距进行选择性求和，得到张量C，对C中的所有向量求第一均值和第一方差并进行归一化，得到张量D，将D输入至第一全连接神经网络，得到张量E，E经过激活函数层得到张量F，F与D根据量化参数差距进行选择性求和，得到张量G，对G中的所有向量求第二均值和第二方差并进行归一化，得到张量H；S3：重复若干次S2，得到张量K；S3：将K输入至第二全连接神经网络，得到输入文本中的每个文字作为答案的开始文字与结束文字的概率，从而得到问题答案。