一种面向深度神经网络的异构多核系统访存管理方法

    公开(公告)号:CN117591274A

    公开(公告)日:2024-02-23

    申请号:CN202311487081.8

    申请日:2023-11-09

    Inventor: 方娟 王悦宁 翟冉

    Abstract: 本发明公开一种面向深度神经网络的异构多核系统访存管理方法,属于计算机体系存储系统结构领域。本发明利用CPU‑GPU异构多核系统加速DNN模型训练,并根据其访存特点设计访存控制器,在DNN训练过程中对多核心共享的末级缓存进行卸载、预取和释放操作,细粒度数据传输过程并显著提高了末级缓存利用率。此外,访存控制器还设计了延迟隐藏机制,通过将特征提取层大量中间数据的存取过程和计算过程相重叠,减少了模型计算过程中由于末级缓存未命中、需要等待DRAM访存响应带来的计算性能损耗,优化了训练效率。

    边云架构下基于深度强化学习的多目标优化卸载策略

    公开(公告)号:CN113626104A

    公开(公告)日:2021-11-09

    申请号:CN202110947345.8

    申请日:2021-08-18

    Abstract: 本发明涉及一种边云架构下基于深度强化学习的多目标优化卸载策略,用于解决现有技术所存在的终端设备计算能力有限的问题,进而提高系统整体处理任务的效率。首先确定边云架构,然后根据边云架构建立系统模型、通信模型和计算模型;进一步建立联合优化模型。根据联合优化模型,结合深度强化学习算法的优点,采用深度确定性策略梯度DDPG算法求解最优的卸载策略,其中,DDPG算法的使用需要根据系统模型、计算模型和联合优化模型构建一个深度强化学习模型,模型包括四个部分,状态单元,动作单元,奖惩制和Q值函数。DDPG算法在优化深度强化学习模型得到最优卸载策略的同时,减少了系统执行任务的整体开销。

    一种面向边缘-云异构下的多级事务调度分配策略

    公开(公告)号:CN109684083B

    公开(公告)日:2020-08-28

    申请号:CN201811512330.3

    申请日:2018-12-11

    Inventor: 方娟 马傲男 李凯

    Abstract: 本发明提出了一种面向边缘‑云异构下的多级事务调度分配策略,实现步骤如下:首先收集所有数据源处产生的所有事务的信息,事务的信息包括该事务的数据大小、事务计算量的大小、接收数据的大小和数据来源、发送数据的大小和数据去向等。其次,利用这些事务信息整理形成一个完整的事务依赖关系图,用一个有向无环图表示。然后,判断事务是在云端还是边缘服务器处理,利用合理的事务优先级启发式算法,判断事务的优先级,并形成一个优先级从高到低的事务队列。最后,根据资源节点之间的负载均衡、事务等待时间、事务紧急程度和资源节点功耗决定执行事务的资源节点,找到实现最优资源分配方案,从而达到提升系统效能的目的。

    一种面向应用的异构片上网络的构建方法

    公开(公告)号:CN104539534B

    公开(公告)日:2018-02-23

    申请号:CN201510002074.3

    申请日:2015-01-03

    CPC classification number: Y02D50/30

    Abstract: 本发明涉及一种面向应用的异构片上网络的构建方法。异构网络作为一种相对灵活的片上网络结构,受到越来越多的关注。目前的异构片上网络通过设置两套固定的片上网络,分别实现对两类应用的优化配置,在应用进入网络前决定要进入的网络,一旦确定不能更改。缺点是网络的优化是参考具体应用的特性实现的,扩展性不强。另一方面,对判断应用属性的参数的准确度依赖较高。随着多线程应用和大数据应用的不断普及,应用的多样性使两类网络的划分思想非常有局限性。本发明针对应用程序的多样性特点,设置两套分别为Buffered和Bufferless路由器,并互相连通,应用运行过程中根据流量实现运行网络的切换。从而能使系统的整体能耗得到改善。

    一种面向低功耗的异构多核共享cache划分方法

    公开(公告)号:CN106708626A

    公开(公告)日:2017-05-24

    申请号:CN201611187228.1

    申请日:2016-12-20

    CPC classification number: Y02D10/22 Y02D10/36 G06F9/5027 G06F15/173

    Abstract: 本发明公开一种面向低功耗的异构多核共享cache划分方法,首先进行共享末级缓存L2级Cache的静态划分,分配恒定比例50%的缓存空间给CPU应用,剩余空间留给GPU应用。均分比例划分的基础上,进行最优静态比例的划分,划分不等比例给CPU和GPU应用。最后,进行动态地自适应比例划分机制,利用面向低功耗的动态划分算法,根据IPC划分指标在运行时动态地改变CPU应用和GPU应用占有末级缓存的比例,从而达到降低系统功耗,提升系统性能的目的。

    一种基于GPU访存特性的异构多核架构缓存管理方法

    公开(公告)号:CN106250348A

    公开(公告)日:2016-12-21

    申请号:CN201610567040.3

    申请日:2016-07-19

    CPC classification number: G06F15/167 G06F12/0806

    Abstract: 本发明公开一种基于GPU访存特性的异构多核架构缓存管理方法,首先进行消息的区分,对来自CPU和GPU核心L1 Cache的不同消息进行不同的处理;如果GPU L1 Cache请求的数据块在L2 Cache中,直接读取该数据块返回给GPU L1 Cache;如果请求的数据块不在L2 Cache中,但L2 Cache中有空闲,则从MEMORY中读取数据写入到L2 Cache中,并将数据返回给GPU L1 Cache;如果请求的数据块不在L2 Cache中,且L2 Cache中没有空闲,则直接发送请求消息给MEMORY,从MEMORY中读取消息,返回给GPU L1 Cache,并将该数据写入相应L1 Cache。本发明的方法减少了GPU应用程序所需数据在L2 Cache中的替换,将多余的空间留给CPU程序使用,提升了CPU应用程序的性能,从而提升异构多核系统的整体性能。

    一种改进的多核共享cache替换方法

    公开(公告)号:CN103150266B

    公开(公告)日:2015-10-28

    申请号:CN201310055097.1

    申请日:2013-02-20

    Inventor: 方娟 李成艳

    Abstract: 本发明涉及一种改进的多核共享cache替换方法,主要分成三个阶段:初始化,替换策略,回溯。初始化是指平均划分cache列,保证每个核拥有属于自己的cache列;替换策略又细分为选择逐出单元,插入访问单元,提升优先级。其中选择逐出单元表示根据一定的原则,尽可能选择效益最小的单元替换出去;插入访问单元是将从内存取出的cache单元放置到cache组的合适位置;优先级提升,则是当cache单元命中时,提高cache单元的优先级,以利于下次利用局部性原理访问。本发明在cache划分的基础上,尽可能将部分当前使用的工作集保留在cache内,从而提高cache的命中率。

    一种基于NFC的Andriod智能门锁开启方法

    公开(公告)号:CN104484918A

    公开(公告)日:2015-04-01

    申请号:CN201410664589.5

    申请日:2014-11-19

    Abstract: 本发明涉及一种基于NFC的Andriod智能门锁开启方法,实现所述方法所需要的硬件设备包括:门禁系统的NFC信号接收模块、由单片机组成的信号处理模块、存储模块、电磁锁,和具有NFC模块且配备Android系统的手机。所述方法包括:由主人实现开锁的步骤,由主人授权的客人开锁的步骤。由主人授权的客人开锁的步骤又包括主人向客人授权的步骤和授权客人开锁的步骤。本发明采用NFC模块完成手机与门锁系统之间的通信功能,免去了随身带钥匙或识别卡的不便。本发明具备手机动态授权功能。只需2台拥有开锁软件的并且支持NFC功能的手机,就可以动态授予其他人开锁的权利,免去传统门开锁带来的不必要的麻烦。

    一种无线供电的可信无线存储设备及其应用方法

    公开(公告)号:CN102063942A

    公开(公告)日:2011-05-18

    申请号:CN201010531540.4

    申请日:2010-10-29

    CPC classification number: Y02D10/13

    Abstract: 一种无线供电的可信无线存储设备及其应用方法涉及信息安全存储领域。安全芯片是可信无线存储设备的信任根,是可信无线存储设备的核心模块。本发明指出无线存储设备在无线传输过程中信息安全问题,提出新的无线供电的可信无线存储解决方案。按照多级供电方法为所述的无线供电的可信无线存储设备中的各个芯片依次供电,确保系统快速转入正常工作状态,同时最大化的降低能耗。通过多种供电方法为所述的无线供电的可信无线存储设备提供可靠的电源保障。可信存储方法确保所述的无线供电的可信无线存储设备在与计算机交互的过程中数据的机密性、完整性,以及其在与存储设备交互过程中数据的机密性。

Patent Agency Ranking