公开(公告)号：CN116976410A

公开(公告)日：2023-10-31

申请号：CN202210383329.5

申请日：2022-04-13

Applicant: 杭州海康威视数字技术股份有限公司

Inventor： 刘伟良 ,  章放 ,  丁健 ,  刘亚林

IPC: G06N3/063 ,  G06N3/0464 ,  G06N3/045 ,  G06F17/16

Abstract: 本申请公开了一种神经网络模型部署方法、装置、设备及可读存储介质，该方法包括步骤：获取第一神经网络模型，其中，所述第一神经网络模型中的第一算子用于矩阵乘法操作，所述第一算子无法通过目标NPU进行推理；将所述第一算子替换为第二算子，得到第二神经网络模型，其中，所述第二算子的运算结果与所述第一算子的运算结果一致，且所述第二算子能够通过所述目标NPU进行推理；将所述第二神经网络模型部署至所述目标NPU。本申请扩大了目标NPU所能推理的网络的网络类型范围。

公开(公告)号：CN116452902A

公开(公告)日：2023-07-18

申请号：CN202111656461.0

申请日：2021-12-31

Applicant: 杭州海康威视数字技术股份有限公司

Inventor： 黄志彬 ,  颜奉丽 ,  章放 ,  丁健

IPC: G06V10/774 ,  G06N5/04

Abstract: 本申请实施例提供了一种模型生成、图像处理方法、装置及电子设备。方案如下：获取第一图像；从图像处理设备的预设分辨率区间中选取多个分辨率，作为第一分辨率；针对每一第一分辨率，根据第一图像对该第一分辨率对应的第一深度学习模型进行推理，得到该第一分辨率对应第一深度学习模型的推理结果；根据每一第一分辨率对应第一深度学习模型的推理结果的准确度，将准确度最高的预设数量个第一深度学习模型所对应的第一分辨率，确定为图像处理设备的最优分辨率；根据每一最优分辨率对应的第一深度学习模型，生成图像处理设备的第二深度学习模型。通过本申请实施例提供的技术方案，增加了深度学习模型所支持的分辨率，提高了图像处理结果的准确性。

公开(公告)号：CN113687816B

公开(公告)日：2023-09-01

申请号：CN202010427353.5

申请日：2020-05-19

Applicant: 杭州海康威视数字技术股份有限公司

Inventor： 章放 ,  韩新承 ,  刘伟良 ,  孟坚鑫

IPC: G06F8/30 ,  G06F8/41

Abstract: 本申请公开了一种算子的可执行代码的生成方法及装置，属于数据处理领域。在本申请中，计算机设备获取算子的第一中间表示信息，通过一个或者多个计算功能单元将第一中间表示信息进行表达映射，以生成第二中间表示信息。之后，生成算子在目标硬件平台上的可执行代码。由于计算功能单元为在不同类型的多个硬件平台中具有共性计算功能的最小计算单元，且计算功能单元的颗粒度比算子小，因此，第二中间表示信息可以在不同类型的多个硬件平台中共用，也即是，第一中间表示信息和第二中间表示信息都可以在多个硬件平台中共用，从而在同一个算子应用于不同的硬件平台时，可以直接按照具有硬件平台的类型生成可执行代码，提高了算子的开发效率。

公开(公告)号：CN115422403A

公开(公告)日：2022-12-02

申请号：CN202210624294.X

申请日：2022-06-02

Applicant: 杭州海康威视数字技术股份有限公司

Inventor： 韩新承 ,  章放 ,  叶挺群

IPC: G06F16/901 ,  G06N20/00

Abstract: 本发明实施例公开了一种图优化的方法、装置、电子设备和计算机可读存储介质。该方法包括：获取离线确定的第一信息和第二信息，其中，该第一信息包括第一子图等价规则集合，该第二信息包括该第一子图等价规则集合中各子图等价规则的性能加速指标；从该第一子图等价规则集合中确定出第二子图等价规则集合，其中，该第二子图等价规则集合为在输入模型将要部署的硬件平台上有效的子图等价规则集合；根据该第二子图等价规则集合和该第二子图等价规则集合中各子图等价规则的性能加速指标，对该输入模型进行优化，得到优化后的模型。通过本发明，解决了相关技术中使用绝对性能指标进行图优化导致的寻优过程的实时性较差的问题。

公开(公告)号：CN113687816A

公开(公告)日：2021-11-23

申请号：CN202010427353.5

申请日：2020-05-19

Applicant: 杭州海康威视数字技术股份有限公司

Inventor： 章放 ,  韩新承 ,  刘伟良 ,  孟坚鑫

IPC: G06F8/30 ,  G06F8/41

Abstract: 本申请公开了一种算子的可执行代码的生成方法及装置，属于数据处理领域。在本申请中，计算机设备获取算子的第一中间表示信息，通过一个或者多个计算功能单元将第一中间表示信息进行表达映射，以生成第二中间表示信息。之后，生成算子在目标硬件平台上的可执行代码。由于计算功能单元为在不同类型的多个硬件平台中具有共性计算功能的最小计算单元，且计算功能单元的颗粒度比算子小，因此，第二中间表示信息可以在不同类型的多个硬件平台中共用，也即是，第一中间表示信息和第二中间表示信息都可以在多个硬件平台中共用，从而在同一个算子应用于不同的硬件平台时，可以直接按照具有硬件平台的类型生成可执行代码，提高了算子的开发效率。

公开(公告)号：CN115934056A

公开(公告)日：2023-04-07

申请号：CN202211704222.2

申请日：2022-12-29

Applicant: 杭州海康威视数字技术股份有限公司

Inventor： 黄竞辉 ,  韩新承 ,  章放

IPC: G06F8/20 ,  G06N20/00 ,  G06F40/151

Abstract: 本申请实施例提供了一种表达方式转换方法、装置及电子设备。其中，所述方法包括：根据目标算法在源框架中的源表示，确定目标算法的源表达式；根据预先设置不同框架各自支持的符号之间的对应关系，分别确定所述源表达式中各源符号对应的等价集合，所述等价集合包括：与所述源符号对应的符号；按照各所述源符号之间的关联关系，组合各所述源符号对应的等价集合，得到所述目标算法的中间表示。应用本实施例，在需要将目标算法转换到多个框架的情况下，可以在中间表示中确定出转换后的框架的符号的组合方式，进而根据这些组合方式高效的转换，提供了一种高效转换多个不同算法框架的算法程序的方法。