本发明涉及一种用于光纤通信系统的信号补偿方法及系统。该方法包括：将光纤通信系统的接收信号进行模数转换，得到数字信号；基于带动量的自适应梯度下降法，获取当前迭代的非线性补偿过程中的参量；采用数字反向传播算法，对数字信号进行非线性补偿，得到非线性补偿信号；采用盲相位搜索算法，进行载波相位恢复处理，得到相位恢复信号；根据相位恢复信号，计算当前迭代的盲估计的均方误差值；判断盲估计的均方误差值与前一次迭代的盲估计的均方误差值之间的差值是否大于设定阈值；如果是，迭代次数加一，进入下一次迭代；如果否，将非线性补偿信号确定为接收信号补偿后的信号。本发明可以降低信号补偿过程的运算量，提高信号补偿的效率。