本发明涉及退火炉用的炉内矫直装置，其特征在于：上辊和下辊穿过炉内并架设在炉体之间；五根下辊直接通过其轴承座固定在炉体上；四根上辊的每一根都通过其自身的上辊升降装置固定在炉体的支座上且能够在各自上辊升降装置的控制下单独升降；炉体与上辊之间设置有非金属补偿器，所述非金属补偿器与炉体和上辊紧密结合保证退火炉的密封性，且非金属补偿器设置为随着上辊的升降而延展或压缩以补偿上辊与炉体之间的相对位移；所述隔热装置设置于非金属补偿器和炉体之间以阻隔炉内温度传递到非金属补偿器内。本发明结构紧凑，设备布局简单合理，控制简单，能有效改善带钢矫直效果，提高产品质量。