内联解压缩
    1.
    发明公开
    内联解压缩 审中-实审

    公开(公告)号:CN115516771A

    公开(公告)日:2022-12-23

    申请号:CN202180031806.5

    申请日:2021-05-07

    Abstract: 描述了用于对已被堆栈压缩的数据进行解压缩的技术和装置。堆栈压缩指在一个或多个维度上对数据的压缩。对于非常稀疏的未压缩数据块(即,包含许多零的数据块),堆栈压缩可以是有效的。在堆栈压缩中,未压缩数据块通过从该未压缩数据块中移除一个或多个零字而被压缩成经压缩数据块。在压缩期间会生成映射未压缩数据块的零字的映射元数据。通过使用映射元数据,经压缩数据块可以被解压缩以恢复未压缩数据块。

    基于稀疏性的神经网络到片上系统中的计算单元的映射

    公开(公告)号:CN117015783A

    公开(公告)日:2023-11-07

    申请号:CN202280017801.1

    申请日:2022-03-04

    Abstract: 一种用于人工神经网络的方法包括:接收经由多个计算单元执行的要与多个核进行卷积的输入值集合。该多个计算单元中的一个或多个热承压计算单元被确定。基于该一个或多个热承压计算单元来将该多个核映射到片上系统(SOC)的多个计算单元。在最大热承压的计算单元上执行该输入值集合与该多个核中最稀疏的核的卷积。

    拆分网络加速架构
    3.
    发明公开

    公开(公告)号:CN113366501A

    公开(公告)日:2021-09-07

    申请号:CN202080011992.1

    申请日:2020-02-06

    Abstract: 描述了一种用于在计算设备上加速机器学习的方法。该方法包括:将神经网络托管在第一推断加速器和第二推断加速器中。该神经网络在该第一推断加速器与该第二推断加速器之间拆分。该方法还包括:直接在该第一推断加速器与该第二推断加速器之间路由中间推断请求结果。该方法进一步包括:从这些中间推断请求结果生成最终推断请求结果。

Patent Agency Ranking