本申请提供了一种AI处理器实时的参数预测方法、系统、设备及介质，属于人工智能技术领域。方法包括：在AI处理器上运行目标应用程序，在建模阶段，采集AI处理器运行过程中的基本参数；实时通过AI处理器对应的非侵入式调节工具调节基本参数，并在实时调节过程中获取各个基本参数对应的目标运行参数；基于多个目标运行参数与对应的基本参数进行拟合操作，建立由基本参数映射到目标运行参数的函数模型；在预测阶段，获取实时的基本参数，并将实时的基本参数输入到函数模型中，得到预测的目标运行参数，以根据预测的目标运行参数确定参数预测结果。本申请可以在AI处理器上在线部署运行，无需额外的计算资源，预测的结果可靠性高。