公开(公告)号：CN119783775A

公开(公告)日：2025-04-08

申请号：CN202411818719.6

申请日：2024-12-11

Applicant: 中国科学院计算技术研究所

Inventor： 谷朝阳 ,  马立贤 ,  邵恩 ,  谭光明

IPC: G06N3/10 ,  G06N3/082 ,  G06N3/063 ,  G06N3/045 ,  G06F11/362 ,  G06N5/01 ,  G06N3/126

Abstract: 本发明提出一种代码生成器的自动调优方法、装置、存储介质、程序产品，该方法包含：依据给定的大模型推理芯片的特性定义搜索空间，将给定的搜索算法集成到所述大模型推理芯片的软件开发环境中，并利用给定的搜索算法，经过多轮循环，生成参数列表种群，所述参数列表种群包含若干参数列表；根据所述参数列表种群配置具体模板参数，生成核函数的定义部分、流水缓冲级以及结果寄存器转存到全局内存的过程；通过编译器编译生成的核函数，并在所述大模型推理芯片上执行，对生成的所述核函数进行性能测量，获取核函数性能指标，并将所述参数列表种群和对应的核函数性能指标作为键值对加入到所述性能字典中。