本发明提出了一种应用于CNN网络卷积层的高效存算系统及其运算方法，该架构包括：用于缓存结果数据的数据缓存模块；用于进行高并行全流水卷积运算，得到卷积运算结果的运算阵列；用于读取数据缓存中的图像源数据并发送给所述运算阵列的源数据分发模块；用于读取数据缓存中的权重数据，并将数据复制重新编组，发送给所述运算阵列的权重共享模块；用于将运算阵列卷积计算结果存入所述数据缓存模块中的结果数据写入模块。本发明提出的高效存算架构基于全流水的并行运算簇设计了运算阵列，并且设计与之匹配的数据缓存和高带宽供数通道，以较低的硬件复杂度，实现了CNN网络密集卷积算法的高性能运算，具有良好的应用前景。