本发明公开了一种光纤非线性补偿方法，涉及光纤通信技术领域。包括以下步骤：S1、接收时域数据，对时域数据进行降采样、时钟恢复处理，得到处理后的时域数据；S2、进行非线性算子#imgabs0#的计算；S3、对处理后的时域数据按照算法中快速傅里叶变换的点数FFTsize进行分组；S4、对S3中分组后的每一段数据分别进行色散和非线性补偿，对幅值项系数λ赋值并计算对应幅值项系数λ下的误码率；采用粒子群算法选择误码率最小的幅值项系数λ的值；S5、将幅值项系数λ的值代入到非线性算子#imgabs1#对光信号进行非线性补偿。本发明有利于光纤通信传输性能的提高。