本发明涉及一种异质压电薄膜结构及其制备方法，该异质压电薄膜结构包括衬底层；层叠在衬底层上的介质层；层叠在介质层上的过渡层；以及，层叠在过渡层上的压电薄膜层；其中，衬底层的热膨胀系数小于压电薄膜层的热膨胀系数；过渡层与压电薄膜层的组分相同，且过渡层的晶格常数大于压电薄膜层的晶格常数；所述过渡层内具有拉应力，所述异质压电薄膜结构的晶圆bow值小于所述衬底层对应的初始衬底晶圆的晶圆bow值。本发明异质压电薄膜结构中压电薄膜层可以承受更高的退火温度而不致损坏，从而可以使该结构中经过离子注入的薄膜层中离子注入缺陷恢复的更加完全，晶格质量好，进而有利于提升基于薄膜压电材料的相关元器件的性能。