提高卷积神经网络计算效率的方法和装置

    公开(公告)号:CN108629405A

    公开(公告)日:2018-10-09

    申请号:CN201710173124.3

    申请日:2017-03-22

    Abstract: 本发明实施例提供了一种提高卷积神经网络计算效率的方法和装置,一种提高卷积神经网络计算效率的方法包括:对于检测模型的每一卷积层,根据输入特征图的分辨率和通道数、卷积系数的个数以及乘加单元中乘法器的个数,确定乘加单元在每个维度上乘法器的分配系数,对于检测模型的每一卷积层,根据每个维度上乘法器的分配系数,将卷积层的输入特征图的分辨率及通道数上的各数据,输入乘加单元中的各乘法器进行卷积运算,输出每一卷积层的输出特征图,其中,待检测图像的特征图作为检测模型第一卷积层的输入特征图。本发明实施例提供的提高卷积神经网络计算效率的方法和装置,用于提高卷积神经网络算法的计算效率。

    一种任务处理方法及设备
    2.
    发明公开

    公开(公告)号:CN119987977A

    公开(公告)日:2025-05-13

    申请号:CN202510462218.7

    申请日:2025-04-11

    Abstract: 本申请提供一种任务处理方法及设备,该方法包括:内核态调度器在接收到第一任务消息时,将第一任务消息发送给内核态驱动,由内核态驱动将第一任务消息发送给第一类硬件单元;内核态调度器接收内核态驱动返回的第二任务消息;若任务类型是内核态绑定调用,则内核态调度器从第二任务消息中获取多个硬件单元的工作顺序,基于工作顺序确定第一类硬件单元是否为最后一个硬件单元;若是,则内核态调度器将已处理数据存储到指定存储介质;若否,则内核态调度器将第二任务消息发送给第一类硬件单元的后一个硬件单元对应的内核态调度器或内核态驱动。通过本申请的技术方案,能够节省资源开销。

    智能应用控制系统、智能应用任务处理方法及电子设备

    公开(公告)号:CN119987976A

    公开(公告)日:2025-05-13

    申请号:CN202510459053.8

    申请日:2025-04-14

    Abstract: 本申请适用于边缘计算技术领域,提供了一种智能应用控制系统、智能应用任务处理方法及电子设备。该系统包括:第一处理器和第二处理器;第一处理器配置有运行于内核态的组件调度模块和模型调度模块;组件调度模块管理智能应用中各功能组件的运行状态,并在功能组件运行时,向模型调度模块发送第一任务集合;模型调度模块在第一任务集合中存在多个目标模型任务的情况下,对多个目标模型任务进行部分或全部合并,得到满足批处理条件的第二任务集合,并向第二处理器发送模型驱动指令;第二处理器用于基于模型驱动指令触发相关神经网络模型执行第二任务集合中的模型任务,并向第一处理器反馈任务处理得到的结果。通过本申请可减少处理器开销。

    一种数据处理方法及装置

    公开(公告)号:CN114296643B

    公开(公告)日:2024-09-06

    申请号:CN202111545103.2

    申请日:2021-12-16

    Inventor: 方颉翔

    Abstract: 本申请公开了一种数据处理方法及装置,涉及芯片设计技术领域,用于提升数据处理效率。该方法包括:将目标待压缩数据块划分为多个第一子数据块;其中,目标待压缩数据块包括多个数据,待压缩数据块和第一子数据块均是N维数据块,N是大于等于2的整数;对多个第一子数据块分别进行压缩,得到多个第二子数据块;其中,第一子数据块与第二子数据块一一对应;将多个第二子数据块按照预设规则存储;其中,预设规则用于表征多个第一子数据块的标识与多个第二子数据块的存储空间的标识之间的映射关系。

    提高卷积神经网络计算效率的方法和装置

    公开(公告)号:CN108629405B

    公开(公告)日:2020-09-18

    申请号:CN201710173124.3

    申请日:2017-03-22

    Abstract: 本发明实施例提供了一种提高卷积神经网络计算效率的方法和装置,一种提高卷积神经网络计算效率的方法包括:对于检测模型的每一卷积层,根据输入特征图的分辨率和通道数、卷积系数的个数以及乘加单元中乘法器的个数,确定乘加单元在每个维度上乘法器的分配系数,对于检测模型的每一卷积层,根据每个维度上乘法器的分配系数,将卷积层的输入特征图的分辨率及通道数上的各数据,输入乘加单元中的各乘法器进行卷积运算,输出每一卷积层的输出特征图,其中,待检测图像的特征图作为检测模型第一卷积层的输入特征图。本发明实施例提供的提高卷积神经网络计算效率的方法和装置,用于提高卷积神经网络算法的计算效率。

    一种数据处理方法及装置

    公开(公告)号:CN108733347A

    公开(公告)日:2018-11-02

    申请号:CN201710262673.8

    申请日:2017-04-20

    CPC classification number: G06F7/523 G06F9/3001

    Abstract: 本发明实施例提供了一种数据处理方法及装置,其中,该方法包括:获取第一组待相乘数据及其中每个数据的位宽、第二组待相乘数据及其中每个数据的位宽;通过预设数据合并方式,将第一组待相乘数据中所有数据合并后得到的数据确定为第一乘数,并将第二组待相乘数据中所有数据合并后得到的数据确定为第二乘数;通过预设定点乘法器对第一乘数与第二乘数进行相乘运算,获得乘法结果数据;根据预设数据合并方式、第一组待相乘数据中每个数据的位宽以及第二组待相乘数据中每个数据的位宽,从乘法结果数据中,提取第一组待相乘数据中每个数据与第二组待相乘数据中每个数据相乘的结果。通过本方案可以提高采用定点乘法器的芯片的工作效率、降低成本。

    数据压缩方法、数据解压缩方法、压缩设备及解压缩设备

    公开(公告)号:CN108880559B

    公开(公告)日:2022-03-04

    申请号:CN201710334811.9

    申请日:2017-05-12

    Inventor: 方颉翔

    Abstract: 本发明实施例提供了一种数据压缩方法、数据解压缩方法、压缩设备及解压缩设备,所述数据压缩方法包括:接收待处理的目标数据;获取存储的已接收压缩字符的数量,并判断所述已接收压缩字符的数量是否小于预设阈值,其中,所述压缩字符为预先设定的;当所述已接收压缩字符的数量小于所述预设阈值时,判断所述目标数据是否为压缩字符,当所述目标数据为非压缩字符,或当所述已接收压缩字符的数量不小于所述预设阈值时,根据所述已接收压缩字符的数量、所述目标数据、以及所述预设阈值对应的第一预设位数,对所述已接收压缩字符和所述目标数据进行压缩,生成压缩数据。本发明实施例能够提高数据压缩效率。

    一种数据处理方法、设备及装置

    公开(公告)号:CN108573305B

    公开(公告)日:2020-07-24

    申请号:CN201710152660.5

    申请日:2017-03-15

    Abstract: 本发明实施例提供了一种数据处理方法、设备及装置,其中,数据处理方法包括:获取预设卷积核,并确定卷积框宽度;获取并根据芯片缓存容量、预设数据量及第一预设行数,确定数据列宽度;按照数据列宽度对待处理数据矩阵进行划分,得到多列区域;针对任一列区域,提取第二预设行数的待运算数据发送至芯片缓存,利用预设卷积核,对待运算数据进行卷积运算;在待运算数据中的第一行数据参与完卷积运算后,删除第一行数据,并提取对应列区域的下一行数据,更新待运算数据;对更新的待运算数据进行卷积运算,直至区域中的所有行数据均参与完卷积运算。通过本发明可以降低芯片在进行数据处理时所产生的功耗、提高处理性能。

    一种数据处理方法、设备及装置

    公开(公告)号:CN108573305A

    公开(公告)日:2018-09-25

    申请号:CN201710152660.5

    申请日:2017-03-15

    CPC classification number: G06N3/063 G06F15/781

    Abstract: 本发明实施例提供了一种数据处理方法、设备及装置,其中,数据处理方法包括:获取预设卷积核,并确定卷积框宽度;获取并根据芯片缓存容量、预设数据量及第一预设行数,确定数据列宽度;按照数据列宽度对待处理数据矩阵进行划分,得到多列区域;针对任一列区域,提取第二预设行数的待运算数据发送至芯片缓存,利用预设卷积核,对待运算数据进行卷积运算;在待运算数据中的第一行数据参与完卷积运算后,删除第一行数据,并提取对应列区域的下一行数据,更新待运算数据;对更新的待运算数据进行卷积运算,直至区域中的所有行数据均参与完卷积运算。通过本发明可以降低芯片在进行数据处理时所产生的功耗、提高处理性能。

    一种数据处理方法及装置
    10.
    发明公开

    公开(公告)号:CN114296643A

    公开(公告)日:2022-04-08

    申请号:CN202111545103.2

    申请日:2021-12-16

    Inventor: 方颉翔

    Abstract: 本申请公开了一种数据处理方法及装置,涉及芯片设计技术领域,用于提升数据处理效率。该方法包括:将目标待压缩数据块划分为多个第一子数据块;其中,目标待压缩数据块包括多个数据,待压缩数据块和第一子数据块均是N维数据块,N是大于等于2的整数;对多个第一子数据块分别进行压缩,得到多个第二子数据块;其中,第一子数据块与第二子数据块一一对应;将多个第二子数据块按照预设规则存储;其中,预设规则用于表征多个第一子数据块的标识与多个第二子数据块的存储空间的标识之间的映射关系。

Patent Agency Ranking