-
公开(公告)号:CN107463510A
公开(公告)日:2017-12-12
申请号:CN201710717161.6
申请日:2017-08-21
Applicant: 北京工业大学
IPC: G06F12/0842 , G06F9/48 , G06F9/50
Abstract: 本发明公开一种面向高性能的异构多核共享cache缓冲管理方法,首先在共享末级缓存L2级Cache(LLC)的GPU侧建立一个与其结构相同的缓冲buffer,GPU消息首先访问buffer,从而达到过滤GPU流请求的目的,为CPU应用程序腾出LLC空间。在加入buffer的基础上,针对CPU应用程序和GPU应用程序不同的特性,采用合理的替换策略,增加cache命中率。最后,调整buffer的大小,根据IPC划分指标在运行前改变buffer大小,找到最优性能方案,从而达到提升系统性能的目的。
-
公开(公告)号:CN106708626A
公开(公告)日:2017-05-24
申请号:CN201611187228.1
申请日:2016-12-20
Applicant: 北京工业大学
IPC: G06F9/50 , G06F15/173
CPC classification number: Y02D10/22 , Y02D10/36 , G06F9/5027 , G06F15/173
Abstract: 本发明公开一种面向低功耗的异构多核共享cache划分方法,首先进行共享末级缓存L2级Cache的静态划分,分配恒定比例50%的缓存空间给CPU应用,剩余空间留给GPU应用。均分比例划分的基础上,进行最优静态比例的划分,划分不等比例给CPU和GPU应用。最后,进行动态地自适应比例划分机制,利用面向低功耗的动态划分算法,根据IPC划分指标在运行时动态地改变CPU应用和GPU应用占有末级缓存的比例,从而达到降低系统功耗,提升系统性能的目的。
-
公开(公告)号:CN106250348A
公开(公告)日:2016-12-21
申请号:CN201610567040.3
申请日:2016-07-19
Applicant: 北京工业大学
IPC: G06F15/167 , G06F12/0806
CPC classification number: G06F15/167 , G06F12/0806
Abstract: 本发明公开一种基于GPU访存特性的异构多核架构缓存管理方法,首先进行消息的区分,对来自CPU和GPU核心L1 Cache的不同消息进行不同的处理;如果GPU L1 Cache请求的数据块在L2 Cache中,直接读取该数据块返回给GPU L1 Cache;如果请求的数据块不在L2 Cache中,但L2 Cache中有空闲,则从MEMORY中读取数据写入到L2 Cache中,并将数据返回给GPU L1 Cache;如果请求的数据块不在L2 Cache中,且L2 Cache中没有空闲,则直接发送请求消息给MEMORY,从MEMORY中读取消息,返回给GPU L1 Cache,并将该数据写入相应L1 Cache。本发明的方法减少了GPU应用程序所需数据在L2 Cache中的替换,将多余的空间留给CPU程序使用,提升了CPU应用程序的性能,从而提升异构多核系统的整体性能。
-
公开(公告)号:CN107463510B
公开(公告)日:2020-05-08
申请号:CN201710717161.6
申请日:2017-08-21
Applicant: 北京工业大学
IPC: G06F12/0842 , G06F9/48 , G06F9/50
Abstract: 本发明公开一种面向高性能的异构多核共享cache缓冲管理方法,首先在共享末级缓存L2级Cache(LLC)的GPU侧建立一个与其结构相同的缓冲buffer,GPU消息首先访问buffer,从而达到过滤GPU流请求的目的,为CPU应用程序腾出LLC空间。在加入buffer的基础上,针对CPU应用程序和GPU应用程序不同的特性,采用合理的替换策略,增加cache命中率。最后,调整buffer的大小,根据IPC划分指标在运行前改变buffer大小,找到最优性能方案,从而达到提升系统性能的目的。
-
公开(公告)号:CN106383792B
公开(公告)日:2019-07-12
申请号:CN201610836077.1
申请日:2016-09-20
Applicant: 北京工业大学
IPC: G06F12/123 , G06F12/122
Abstract: 本发明公开一种基于缺失感知的异构多核缓存替换方法,包括:首选在异构多核的结构下,实现Ruby模式下的LRU缓存替换算法和LFU缓存替换算法;然后通过实时的、动态的比较两个替换算法的缺失数的大小,在LRU和LFU替换算法之间动态进行切换;最后在GPU应用程序所使用的缓存替换算法中,修改缓存块换入时或刚访问过时默认存放在的缓存队列中的最高位置,将GPU应用程序访问时的缓存块的优先权值降低一位。采用本发明的技术方案,提高缓存利用率来以及提升系统的性能。
-
公开(公告)号:CN106250348B
公开(公告)日:2019-02-12
申请号:CN201610567040.3
申请日:2016-07-19
Applicant: 北京工业大学
IPC: G06F15/167 , G06F12/0806
Abstract: 本发明公开一种基于GPU访存特性的异构多核架构缓存管理方法,首先进行消息的区分,对来自CPU和GPU核心L1 Cache的不同消息进行不同的处理;如果GPU L1 Cache请求的数据块在L2 Cache中,直接读取该数据块返回给GPU L1 Cache;如果请求的数据块不在L2 Cache中,但L2 Cache中有空闲,则从MEMORY中读取数据写入到L2 Cache中,并将数据返回给GPU L1 Cache;如果请求的数据块不在L2 Cache中,且L2 Cache中没有空闲,则直接发送请求消息给MEMORY,从MEMORY中读取消息,返回给GPU L1 Cache,并将该数据写入相应L1 Cache。本发明的方法减少了GPU应用程序所需数据在L2 Cache中的替换,将多余的空间留给CPU程序使用,提升了CPU应用程序的性能,从而提升异构多核系统的整体性能。
-
公开(公告)号:CN106383792A
公开(公告)日:2017-02-08
申请号:CN201610836077.1
申请日:2016-09-20
Applicant: 北京工业大学
IPC: G06F12/123 , G06F12/122
CPC classification number: G06F12/123 , G06F12/122
Abstract: 本发明公开一种基于缺失感知的异构多核缓存替换方法,包括:首选在异构多核的结构下,实现Ruby模式下的LRU缓存替换算法和LFU缓存替换算法;然后通过实时的、动态的比较两个替换算法的缺失数的大小,在LRU和LFU替换算法之间动态进行切换;最后在GPU应用程序所使用的缓存替换算法中,修改缓存块换入时或刚访问过时默认存放在的缓存队列中的最高位置,将GPU应用程序访问时的缓存块的优先权值降低一位。采用本发明的技术方案,提高缓存利用率来以及提升系统的性能。
-
-
-
-
-
-