公开(公告)号：CN115237428A

公开(公告)日：2022-10-25

申请号：CN202110444943.3

申请日：2021-04-24

Applicant: 华为云计算技术有限公司

Inventor： 李雨洺 ,  谢周意 ,  许天锡 ,  潘世刚

IPC: G06F8/60 ,  G06N5/04

Abstract: 本申请提供了一种人工智能(AI)应用部署方法，包括：开发系统将训练后的AI模型转换成至少一个适配模型，每个适配模型适配一个推理框架，开发系统还生成模型配置文件，模型配置文件包括推理框架基于对应的适配模型进行推理时需要的配置信息，然后开发系统根据AI功能单元组和模型配置文件生成AI应用，AI功能单元用于基于其中一个适配模型获得推理结果，部署管理系统可以基于由适配模型生成的AI功能单元和模型配置文件将AI应用统一部署至不同设备，无需手动修改推理代码，降低了AI应用的部署难度，提高了AI应用的部署效率。

公开(公告)号：CN115237458A

公开(公告)日：2022-10-25

申请号：CN202110445022.9

申请日：2021-04-24

Applicant: 华为云计算技术有限公司

Inventor： 李雨洺 ,  尚剑 ,  谢周意

IPC: G06F8/71 ,  G06F8/61 ,  G06F8/76 ,  G06F9/448 ,  G06N5/04

Abstract: 本申请公开了一种调用推理硬件执行人工智能AI应用的方法及相关产品，其中，该方法应用于应用执行设备中的推理框架，推理框架为安装在应用执行设备、由AI应用调用的软件，该方法包括：获取应用执行设备中的推理硬件的驱动适配文件，驱动适配文件包括由推理框架提供的推理硬件的抽象API；根据驱动适配文件，加载推理硬件的API函数实现；调用推理硬件执行AI应用。利用上述方法，在应用执行设备中的推理硬件的驱动版本升级或应用执行设备中新增推理硬件后，可以无需修改或编译推理框架代码和AI应用，便可以在应用执行设备上运行该AI应用。

公开(公告)号：CN115237457A

公开(公告)日：2022-10-25

申请号：CN202110445015.9

申请日：2021-04-24

Applicant: 华为云计算技术有限公司

Inventor： 李雨洺 ,  李泽奇 ,  谢周意

IPC: G06F8/71 ,  G06F8/76 ,  G06F8/61

Abstract: 本申请公开了一种AI应用的运行方法及相关产品，该方法应用于应用执行设备，该方法包括：获取AI应用，其中，AI应用包括功能单元组和模型配置文件，功能单元组包括AI功能单元；运行AI应用中的功能单元组，其中，当运行AI功能单元时，根据模型配置文件，调用与应用执行设备中的推理框架适配的目标适配模型执行推理，获得推理结果。利用该方法，应用执行设备可以自动调用与本设备中的推理框架适配的适配模型执行推理。从另一个角度来说，AI应用的开发者在开发AI应用时无需考虑部署在不同的应用执行设备时，如何修改AI应用的推理代码以适配不同应用执行设备中的不同推理框架，从而降低了AI应用的开发难度和部署难度。