本发明公开了一种高斯误差线性单元的优化方法、系统、设备和介质，其中优化方法包括：接收自然语言处理的输入数据；以所述输入数据为输入参数，调用第一高斯误差线性单元或者第二高斯误差线性单元；第一高斯误差线性单元的实现方式为：使用mkl数学库中vsErf接口函数和mkl数学库中的四则运算接口函数分别代替BERT模型中的高斯误差线性单元的erf函数和四则运算接口函数；第二高斯误差线性单元的实现方式为：使用Intrinsic指令集中erf接口函数和Intrinsic指令集中的四则运算接口函数分别代替BERT模型中高斯误差线性单元的erf函数和四则运算接口函数。第一、二高斯误差线性单元计算效率明显提高，增强了BERT模型的性能。