用于AI参数访问的高速缓存架构及方法

    公开(公告)号:CN119917428A

    公开(公告)日:2025-05-02

    申请号:CN202311425879.X

    申请日:2023-10-30

    Abstract: 一种用于AI参数访问的高速缓存架构及方法,该高速缓存架构包括:预取模块,用于从外部存储器预取并保存计算单元未读取的数据;接收读地址请求,根据所述读地址请求从本地获取数据并返回给所述计算单元,或者将所述读地址请求发送给所述外部存储器。进一步地,该高速缓存架构还可包括:缓存模块,用于存储外部存储器中的部分数据及其地址,接收计算单元发送的读地址请求,在本地获取数据并返回给所述计算单元,或者将所述读地址请求发送给所述预取模块。利用本发明方案,可以缩减计算单元读取外部存储数据的时间,提高计算效率。

Patent Agency Ranking