-
公开(公告)号:CN119294454A
公开(公告)日:2025-01-10
申请号:CN202411824198.5
申请日:2024-12-12
Applicant: 之江实验室
Abstract: 本申请涉及一种人工智能加速卡异构集群适配方法、系统和存储介质,其中,该人工智能加速卡异构集群适配方法包括:获取根据训练框架提供的私有关键字注册的统一标准化适配模块;训练框架为异构集群模型的训练框架;在统一标准化适配模块中,通过工厂模式接入各异构加速卡的硬件层软件栈;通过插件形式扩展训练框架的计算任务分发机制,以使训练框架自主寻优目标异构加速卡;根据统一标准化适配模块所在的运行环境进行条件编译,以接入目标异构加速卡并用于训练框架自主寻优;根据统一测试模块验证统一标准化适配模块与各目标异构加速卡的适配状态,解决了人工智能加速卡异构集群适配开发成本大和无法自主寻优的问题。
-
公开(公告)号:CN119294454B
公开(公告)日:2025-03-25
申请号:CN202411824198.5
申请日:2024-12-12
Applicant: 之江实验室
Abstract: 本申请涉及一种人工智能加速卡异构集群适配方法、系统和存储介质,其中,该人工智能加速卡异构集群适配方法包括:获取根据训练框架提供的私有关键字注册的统一标准化适配模块;训练框架为异构集群模型的训练框架;在统一标准化适配模块中,通过工厂模式接入各异构加速卡的硬件层软件栈;通过插件形式扩展训练框架的计算任务分发机制,以使训练框架自主寻优目标异构加速卡;根据统一标准化适配模块所在的运行环境进行条件编译,以接入目标异构加速卡并用于训练框架自主寻优;根据统一测试模块验证统一标准化适配模块与各目标异构加速卡的适配状态,解决了人工智能加速卡异构集群适配开发成本大和无法自主寻优的问题。
-
公开(公告)号:CN119127149A
公开(公告)日:2024-12-13
申请号:CN202411605822.2
申请日:2024-11-12
Applicant: 之江实验室
Abstract: 本申请涉及一种设备后端的深度学习框架适配方法、装置以及设备。所述方法包括:获取设备后端的预配置信息;根据所述预配置信息,生成所述设备后端的初始框架和集成模版;基于所述初始框架和集成模板,构建所述设备后端的适配代码模板;对所述适配代码模板进行自适应代码配置,得到所述设备后端适配的深度学习框架。采用本方法能够屏蔽了不同框架、版本和设备类型的差异,使设备能够快速、高效的完成深度学习框架适配和维护,简化和规范深度学习框架与设备后端的适配过程。
-
公开(公告)号:CN119127149B
公开(公告)日:2025-04-22
申请号:CN202411605822.2
申请日:2024-11-12
Applicant: 之江实验室
Abstract: 本申请涉及一种设备后端的深度学习框架适配方法、装置以及设备。所述方法包括:获取设备后端的预配置信息;根据所述预配置信息,生成所述设备后端的初始框架和集成模版;基于所述初始框架和集成模板,构建所述设备后端的适配代码模板;对所述适配代码模板进行自适应代码配置,得到所述设备后端适配的深度学习框架。采用本方法能够屏蔽了不同框架、版本和设备类型的差异,使设备能够快速、高效的完成深度学习框架适配和维护,简化和规范深度学习框架与设备后端的适配过程。
-
-
-