发明授权
- 专利标题： 用于数据计算的方法、电子设备和存储介质
-
申请号： CN202311814151.6申请日： 2023-12-27
-
公开(公告)号： CN117472591B公开(公告)日： 2024-03-22
- 发明人: 请求不公布姓名 , 请求不公布姓名 , 请求不公布姓名 , 请求不公布姓名
- 申请人： 北京壁仞科技开发有限公司 , 上海壁仞科技股份有限公司
- 申请人地址： 北京市朝阳区望京东园四区13号楼-4至33层101内10层201室;
- 专利权人： 北京壁仞科技开发有限公司,上海壁仞科技股份有限公司
- 当前专利权人： 北京壁仞科技开发有限公司,上海壁仞科技股份有限公司
- 当前专利权人地址： 北京市朝阳区望京东园四区13号楼-4至33层101内10层201室;
- 代理机构： 北京市金杜律师事务所
- 代理商 王茂华
- 主分类号： G06F9/50
- IPC分类号： G06F9/50 ; G06N5/04
摘要：
本发明的实施例涉及一种用于数据计算的方法、电子设备和存储介质。在该方案中，针对多个批量的数据，通过同时执行当前批量的数据的解码过程和下一批量的数据的编码过程，使得当前批量的数据的由解码器执行的推理计算部分与下一批量的数据的由编码器执行的推理计算部分的相融合以同时进行计算，从而能够更平衡地利用高带宽内存和张量计算核心的算力，改善计算单元的整体利用效率，提高推理过程的数据吞吐速率。
公开/授权文献
- CN117472591A 用于数据计算的方法、电子设备和存储介质 公开/授权日：2024-01-30
