基于容器集群的模型引擎构建方法和系统
摘要:
本发明提供了一种基于容器集群的模型引擎构建方法和系统,包括:获取任务要求信息;对任务所需数据集的标注信息进行导出;将任务所需数据集创建为可挂载进入任务容器的持久卷;在引擎依赖算法库中寻找算法所需预置文件,并创建为可挂载进入任务容器的持久卷;从任务要求信息中获取所需参数,作为容器环境变量予以配置;在容器上暴露相应接口并通过集群出口对外提供服务;在任务启动后记录任务相应信息;对任务产生结果,对日志进行归档存储,并更新任务状态,同时关闭模型任务并释放任务所需系统资源,将资源用于其他模型任务。本发明采用容器技术对AI任务环境进行标准化封装,解决了AI模型研发过程中环境搭建复杂的问题。
0/0