一种模型部署方法、装置、推理系统

    公开(公告)号:CN116954625A

    公开(公告)日:2023-10-27

    申请号:CN202210331031.X

    申请日:2022-03-30

    Inventor: 朱文姣 姚沛 郑星

    Abstract: 本发明实施例提供了一种模型部署方法、装置、推理系统。其中,该方法包括:获取云端设备发送的第一训练格式数据和第一中间格式数据,训练格式数据和第一中间格式数据的格式不同,且用于表示云端设备训练得到的第一模型;根据第一训练格式数据,对第一模型的模型参数进行训练,得到用于表示第二模型的第二训练格式数据;根据第二训练格式数据,将第一中间格式数据中的第一参数子数据更改为用于表示第二模型的模型参数的第二参数子数据,得到用于表示第二模型的第二中间格式数据,其中,第一参数子数据用于表示第一模型的模型参数;根据第二中间格式数据部署第二模型。可以提高模型部署效率。

    一种模型训练方法及装置
    2.
    发明公开

    公开(公告)号:CN118070861A

    公开(公告)日:2024-05-24

    申请号:CN202211479847.3

    申请日:2022-11-24

    Abstract: 本申请实施例提供了一种模型训练方法及装置,涉及深度学习技术领域。方法包括:获取云端发送的浮点格式的网络模型,作为第一网络模型;获取用于部署网络模型的第一图像处理器的网络层算子集,作为第一网络层算子集;针对第一网络模型中的每一网络层,在第一网络层算子集中存在该网络层对应的目标网络层算子的情况下,将第一网络模型中的该网络层替换为目标网络层算子,得到第二网络模型;基于边缘端设备的底层算子库,对第二网络模型进行量化感知训练,得到第三网络模型。应用本申请实施例,在基于第二网络模型得到的第三网络模型对业务数据进行处理时,减少浮点运算的次数,降低边缘端设备的成本。

    模型训练的方法及存储介质
    3.
    发明公开

    公开(公告)号:CN118194031A

    公开(公告)日:2024-06-14

    申请号:CN202211607107.3

    申请日:2022-12-14

    Abstract: 本申请公开了一种模型训练的方法及存储介质,属于模型训练技术领域,用以保证模型训练过程的性能和稳定性。所述方法包括:在启动目标模式的情况下,获取第一数据集,其中,所述第一数据集包括预设数量的第一训练数据;在所述第一数据集中包括异常的第一训练数据的情况下,从预设的数据缓存池中获取与所述异常的第一训练数据相对应的第二训练数据;通过所述第二训练数据,更新所述异常的第一训练数据,得到第二数据集;通过所述第二数据集进行模型训练。

    一种目标特征提取方法及装置
    4.
    发明公开

    公开(公告)号:CN114429205A

    公开(公告)日:2022-05-03

    申请号:CN202011180820.5

    申请日:2020-10-29

    Inventor: 朱文姣 姚沛 杨威

    Abstract: 本申请实施例提供了一种目标特征提取方法及装置,通过获取待处理的图像,利用预先训练的网络模型,从图像中提取目标特征。其中,网络模型是采用数据并行训练方式,利用针对不同训练阶段设置的不同超参分别对多个初始神经网络进行训练得到。在进行网络模型训练时,采用数据并行训练方式,利用针对不同训练阶段设置的不同超参分别对多个初始神经网络进行训练,针对每个初始神经网络,无需设置统一的超参,超参的设置更为灵活,网络模型受超参的影响降低,保证了网络模型的精度,利用训练得到的网络模型进行目标特征提取,所提取的目标特征更为精准,从而提高了图像处理结果的准确性。

Patent Agency Ranking