本申请的实施例公开了一种基于量化的数据处理方法、装置、设备及介质。该方法包括：通过多个量化比特方式分别对模型功能网络对应的原始模型参数进行量化处理，得到每个量化比特方式对应的量化模型参数；之后获取模型功能网络在原始模型参数下的第一输出结果，以及获取模型功能网络在每个量化模型参数下的第二输出结果；之后基于第一输出结果和多个第二输出结果，从多个量化比特方式中选取目标量化比特方式，目标量化比特方式用于在模型功能网络的推理阶段对原始模型参数进行量化处理。本申请技术方案提升了量化处理的准确性，模型性能好。