一种多层感知机深度神经网络层间流水处理方法
摘要:
一种多层感知机深度神经网络层间流水处理方法,假定该层编号为i,其步骤包括:当MLP为奇数全连接层时,取参数矩阵Wi的一行,与输入向量做点积运算,得到的结果再加上对应的偏置,通过非线性函数即得到最后的神经元Yi;当为偶数时:步骤1:初始化部分和向量为该层对应的偏置向量bi;步骤2:根据输入元素 所处的列k,取参数矩阵Wi的列向量;步骤3:输入元素 与参数矩阵的列向量相乘得到部分和向量;执行向量加法,得到新的部分和向量;步骤4:所有输入元素完毕,在部分和向量的每个元素上执行非线性函数,得到输出神经元。本发明具有能够充分利用层间数据重用、利于单个MLP任务响应时间缩短、降低功耗开销等优点。
0/0