-
公开(公告)号:CN118605850A
公开(公告)日:2024-09-06
申请号:CN202411075543.X
申请日:2024-08-07
Applicant: 之江实验室
IPC: G06F8/30 , G06F8/41 , G06F16/2455
Abstract: 本发明公开一种面向Triton编译器流水线的优化系统及优化方法,系统包括方言管理器、转换过程管理器、自定义优化过程构造器、优化过程管理器、流水线构造器、优化过程测试器和性能评估器。本发明通过自定义优化过程构造器为用户提供的用于编写转换过程涉及的方言的操作组合的性能优化策略的接口和模板,使得用户能够有针对性地设计优化策略,提升代码运算性能;优化过程管理器允许针对不同GPU架构添加特定的优化pass过程,使得优化系统具有更好的GPU适应性;优化过程测试器确保优化过程的正确执行,性能评估器提供量化评估,使得优化效果可验证。本发明的优化系统能够对方言、转换过程、优化过程进行精细控制,提供了优化系统的管理灵活性和可扩展性。
-
公开(公告)号:CN117648956B
公开(公告)日:2024-06-04
申请号:CN202410118627.0
申请日:2024-01-29
Abstract: 本申请涉及一种脉冲神经网络模型资源映射方法、装置和存储介质,其中,该脉冲神经网络模型资源映射方法包括:根据脉冲神经网络模型中各神经元簇的步长,对脉冲神经网络模型中各神经元簇进行分层,得到各层神经元簇集合;将各层神经元簇集合部署至类脑芯片的神经拟态核矩阵的各空闲神经拟态核列中;其中,层数越大的神经元簇集合,部署于列序号越大的空闲神经拟态核列中;根据各空闲神经拟态核列中分配资源的初始位置,以及各空闲神经拟态核列中其他位置与初始位置的距离,为各空闲神经拟态核列中部署的神经元簇集合分配类脑芯片的空闲神经拟态核,提高了神经拟态核利用率和类脑模型的运算速度。
-
公开(公告)号:CN116070682B
公开(公告)日:2023-08-15
申请号:CN202310354756.5
申请日:2023-04-06
Abstract: 本发明公开了神经元计算机操作系统的SNN模型动态映射方法及装置,通过根据节点之间连接关系、设置的初始解空间映射,以及输入、输出虚拟节点相对物理神经元拟态核边缘核心的位置,构建脉冲通信代价计算模型,计算前继节点与后继节点对应物理坐标间的距离,基于节点间的距离和对应的权重信息,得到脉冲通信代价;同时,基于初始解空间,通过贪心算法遍历逻辑神经元拟态核在不同空闲物理神经元拟态核时的脉冲通信代价,得到最小脉冲通信代价时,逻辑神经元拟态核与物理神经元拟态核的映射关系。从而解决了类脑硬件资源因碎片化而无法直接将模型的逻辑神经元拟态核相对位置一一映射到物理神经元拟态核的问题。
-
公开(公告)号:CN114338506A
公开(公告)日:2022-04-12
申请号:CN202210249528.7
申请日:2022-03-15
IPC: H04L45/122 , H04L49/109
Abstract: 本发明公开了一种类脑计算机操作系统的神经任务片内路由方法及装置,通过目标核心形成的区域、离边缘路由区域最远的一行核心,以及判断目标核心是否需要配置中继路由,找到最短的边缘路由核心,以从远及近的原则配置目标核心,采用最短路径方法以及单次路由步长最大方法找到中继路由核心和边缘路由核心;本发明通过选择步长较短的中继路由和边缘路由,解决了离输入边缘较远的核心路由不可达问题,解决了片内路由步长过长引起神经任务运行时间长问题。
-
-
-