-
Patent Agency Ranking
公开(公告)号：CN119398125A
公开(公告)日：2025-02-07
申请号：CN202411975373.0
申请日：2024-12-30
Applicant: 杭州海康威视数字技术股份有限公司
Abstract: 本申请实施例提供了一种模型优化方法、装置、电子设备及存储介质，涉及机器学习技术领域。方法包括：获取优化前的深度学习模型包含的每一算子的算子规格；基于获取到的算子规格，从优化前的深度学习模型包含的各算子中，确定待部署模型的硬件平台中神经处理单元不支持的算子，作为超规格算子；按照每一超规格算子的算子规格，生成该超规格算子对应的优化算子；一个超规格算子对应的优化算子包含神经处理单元支持的公开算子以及扩展算子；将每一超规格算子替换为对应的优化算子，得到优化后的深度学习模型；硬件平台中中央处理器用于运行优化后的深度学习模型中的扩展算子。如此，能够保证深度学习模型在硬件平台上的正常运行。
-
公开(公告)号：CN119398125B
公开(公告)日：2025-05-02
申请号：CN202411975373.0
申请日：2024-12-30
Applicant: 杭州海康威视数字技术股份有限公司
Abstract: 本申请实施例提供了一种模型优化方法、装置、电子设备及存储介质，涉及机器学习技术领域。方法包括：获取优化前的深度学习模型包含的每一算子的算子规格；基于获取到的算子规格，从优化前的深度学习模型包含的各算子中，确定待部署模型的硬件平台中神经处理单元不支持的算子，作为超规格算子；按照每一超规格算子的算子规格，生成该超规格算子对应的优化算子；一个超规格算子对应的优化算子包含神经处理单元支持的公开算子以及扩展算子；将每一超规格算子替换为对应的优化算子，得到优化后的深度学习模型；硬件平台中中央处理器用于运行优化后的深度学习模型中的扩展算子。如此，能够保证深度学习模型在硬件平台上的正常运行。
-
公开(公告)号：CN117725968A
公开(公告)日：2024-03-19
申请号：CN202311827413.2
申请日：2023-12-27
Applicant: 杭州海康威视数字技术股份有限公司
IPC: G06N3/0495 , G06N3/0464 , G06N3/082
Abstract: 本发明公开了一种模型压缩方法、计算机设备和存储介质，属于模型处理技术领域。本发明包括获取多组模型参数，模型参数包括卷积核大小和与通道数相关的参数，其中，与通道数相关的参数是在目标平台上运行时能令目标平台性能最优的目标测试模型对应的参数，可以认为，当待压缩模型的卷积核大小与模型参数中的与通道数相关的参数一致时，其与目标平台的适配性最好。基于此，根据待压缩模型的卷积核大小从多组模型参数中确定与待压缩模型的卷积核大小匹配的目标参数，该目标参数即待压缩模型期望的与通道数相关的参数。这样根据目标参数对待压缩模型的通道进行裁剪后得到的目标模型与目标平台的适配性可以达到最优。
-
公开(公告)号：CN119376739B
公开(公告)日：2025-04-01
申请号：CN202411975345.9
申请日：2024-12-30
Applicant: 杭州海康威视数字技术股份有限公司
Abstract: 本申请实施例提供了一种模型优化方法、装置、电子设备及存储介质，涉及计算机技术领域。方法包括：基于当前的软件算子库和硬件平台当前的硬件算子库，确定待优化模型的待优化模型信息；将待优化模型信息输入至当前的第一优化引擎，得到优化后的模型包含的算子的算子属性和算子之间的算子连接关系；基于优化后的模型包含的算子的算子属性和算子之间的算子连接关系，得到优化后的模型。电子设备自动获取待优化模型信息，后续第一优化引擎按照算子优化策略库中记录的各算子优化策略，基于待优化模型信息，对待优化模型进行优化，无需用户基于人工经验手动对待优化模型进行优化，就不要求用户拥有专业知识，可以降低用户使用深度学习模型时的门槛。
-
公开(公告)号：CN119376739A
公开(公告)日：2025-01-28
申请号：CN202411975345.9
申请日：2024-12-30
Applicant: 杭州海康威视数字技术股份有限公司
Abstract: 本申请实施例提供了一种模型优化方法、装置、电子设备及存储介质，涉及计算机技术领域。方法包括：基于当前的软件算子库和硬件平台当前的硬件算子库，确定待优化模型的待优化模型信息；将待优化模型信息输入至当前的第一优化引擎，得到优化后的模型包含的算子的算子属性和算子之间的算子连接关系；基于优化后的模型包含的算子的算子属性和算子之间的算子连接关系，得到优化后的模型。电子设备自动获取待优化模型信息，后续第一优化引擎按照算子优化策略库中记录的各算子优化策略，基于待优化模型信息，对待优化模型进行优化，无需用户基于人工经验手动对待优化模型进行优化，就不要求用户拥有专业知识，可以降低用户使用深度学习模型时的门槛。
-
-
-
-
Search Results
5
records
(took 0.033 seconds)
