本实用新型涉及矩阵计算装置、小芯片设备及人工智能加速器装置。该装置包括：输入缓冲器，接收一个或多个用第一格式表征的矩阵输入；和计算设备，耦接到输入缓冲器设备，该计算设备被配置用于确定组合矩阵输出。计算设备使用矩阵输入的第一输入部分确定第一矩阵输出，并使用第二输入部分确定第二矩阵输出。然后，计算设备使用第一矩阵输出和第二矩阵输出确定第二格式的组合矩阵输出。在计算设备内，对准设备可以从组合矩阵输出确定舍入矩阵输出，并且部分积约简设备可以使用舍入矩阵输出来确定第三格式的约简矩阵输出，该约简矩阵输出被存储在耦接到计算设备的输出缓冲器中。