对特征数据进行处理的方法、装置、介质和设备
摘要:
本公开实施例公开了一种对特征数据进行处理的方法、装置、介质和设备,其中,方法包括:确定待处理特征数据对应的第一张量的第一数据格式信息与第二张量的第二数据格式信息;根据第一数据格式信息和第二数据格式信息,从神经网络处理器中确定第一张量计算模块;控制第一张量计算模块对第一张量和第二张量进行计算,获得张量计算结果;根据张量计算结果,确定待处理特征数据对应的处理结果。本公开实施例可以实现神经网络处理器的基础计算单元的可配置能力,从而基于神经网络处理器中的基础计算单元实现不同混合精度或较高精度的张量运算,使得模型量化时,可以保持高比特量化结果,从而可以有效保证神经网络模型的计算精度。
0/0