一种深度神经网络推断处理器的访存性能提升方法

    公开(公告)号:CN114819124A

    公开(公告)日:2022-07-29

    申请号:CN202210394533.7

    申请日:2022-04-13

    Inventor: 赵宏智 张芳

    Abstract: 本发明公开一种深度神经网络推断处理器的访存性能提升方法,所述方法包括:排序队列,其根据访存请求的内存行地址和读写属性将访存请求缓存在不同的队列中;访存请求分流模块,将所有的访存请求按内存行地址和读写属性分流到不同的排序队列中,并采用分流记录表来记录每个队列的队尾访存请求的地址;多路选择器,其作用是在感知模块的控制下选择某一队列的输出通道将该队列中所有的访存请求发内存;队列感知模块,其感知队列的长度变化和时间变化,决策选择将哪一队列的访存请求发往内存。本发明通过对访存请求序列进行排序,能够有效提升内存的行缓冲命中率,降低深度神经网络推断处理器的访存延时,且易于实现。

Patent Agency Ranking