发明公开
- 专利标题: 一种多层感知机深度神经网络层间流水处理方法
-
申请号: CN201911120117.2申请日: 2019-11-15
-
公开(公告)号: CN110929846A公开(公告)日: 2020-03-27
- 发明人: 陈胜刚 , 鲁中海 , 宋睿强 , 孙书为 , 刘胜 , 雷元武 , 陈小文 , 陈海燕 , 鲁建壮 , 扈啸
- 申请人: 中国人民解放军国防科技大学
- 申请人地址: 湖南省长沙市开福区砚瓦池正街47号
- 专利权人: 中国人民解放军国防科技大学
- 当前专利权人: 中国人民解放军国防科技大学
- 当前专利权人地址: 湖南省长沙市开福区砚瓦池正街47号
- 代理机构: 湖南兆弘专利事务所
- 代理商 周长清
- 主分类号: G06N3/04
- IPC分类号: G06N3/04
摘要:
一种多层感知机深度神经网络层间流水处理方法,假定该层编号为i,其步骤包括:当MLP为奇数全连接层时,取参数矩阵Wi的一行,与输入向量做点积运算,得到的结果再加上对应的偏置,通过非线性函数即得到最后的神经元Yi;当为偶数时:步骤1:初始化部分和向量为该层对应的偏置向量bi;步骤2:根据输入元素 所处的列k,取参数矩阵Wi的列向量;步骤3:输入元素 与参数矩阵的列向量相乘得到部分和向量;执行向量加法,得到新的部分和向量;步骤4:所有输入元素完毕,在部分和向量的每个元素上执行非线性函数,得到输出神经元。本发明具有能够充分利用层间数据重用、利于单个MLP任务响应时间缩短、降低功耗开销等优点。