数据转换方法、转换装置、转换电路以及存算一体设备

    公开(公告)号:CN119995610A

    公开(公告)日:2025-05-13

    申请号:CN202411310096.1

    申请日:2024-09-19

    Abstract: 本发明公开了一种数据转换方法、转换装置、转换电路以及存算一体设备,所述方法包括:获取待转换浮点型数据以及目标量化系数;基于目标整型数据的数据位数分别对待转换浮点型数据的尾数以及目标量化系数的尾数进行截位处理,以得到待转换浮点型数据的有效尾数以及目标量化系数的有效尾数,其中,有效尾数的位数比目标整整数据的数据位数少一位;基于截位处理后的目标量化系数对截位处理后的待转换浮点型数据进行格式转换,以得到待转换浮点型数据对应的目标整型数据。该方法基于尾数截位处理后的目标量化系数和待转换浮点型数据进行数据格式转换计算,大大减少了计算量,提升了数据转换效率。

    校验码生成方法和校验码生成装置

    公开(公告)号:CN120017074A

    公开(公告)日:2025-05-16

    申请号:CN202510071724.3

    申请日:2025-01-16

    Abstract: 本申请公开了一种校验码生成方法和校验码生成装置,所述方法包括:获取待处理数据,并确定第一有效数据长度和第二有效数据长度;基于第一有效数据长度和预设关系确定第一校验码长度,基于第二有效数据长度和预设关系确定第二校验码长度;根据待处理数据沿第一方向的每个数据位的排列顺序确定第一位置权重,根据待处理数据沿第二方向的每个数据位的排列顺序确定第二位置权重;根据待处理数据、第一有效数据长度、第一校验码长度和第一位置权重确定第一校验码,根据待处理数据、第二有效数据长度、第二校验码长度和第二位置权重确定第二校验码;根据第一校验码和第二校验码确定校验码。该方法通过正交编码方式生成校验码,降低了编码校验位的代价。

    适用于存算一体设备的细粒度数模混合权重部署方法

    公开(公告)号:CN119990204A

    公开(公告)日:2025-05-13

    申请号:CN202411310098.0

    申请日:2024-09-19

    Abstract: 本发明公开了一种适用于存算一体设备的细粒度数模混合权重部署方法。方法包括获取第一权重矩阵;在第一权重矩阵的行数和/或列数大于CIM计算阵列的行数和/或列数的情况下,对第一权重矩阵进行拆分得到多个第二权重矩阵;分别获取每个第二权重矩阵在CIM计算阵列和数字计算核上的能效值,记为第一能效值和第二能效值;根据每个第二权重矩阵的第一能效值和第二能效值确定第二权重矩阵的部署方式。本发明的部署方法对第一权重矩阵进行拆分,并根据拆分后每个第二权重矩阵在CIM计算阵列和数字计算核的能效值,将其分配到数字计算核或CIM计算阵列进行计算。如此,可提高CIM计算阵列的空间利用率、计算能效和并行度,还可提高系统级能效和资源分配自由度。

    数据转换方法、转换装置、转换电路以及存算一体设备

    公开(公告)号:CN119276270A

    公开(公告)日:2025-01-07

    申请号:CN202411310094.2

    申请日:2024-09-19

    Abstract: 本发明公开了一种数据转换方法、转换装置、转换电路以及存算一体设备,所述方法包括:获取待转换整型数据以及目标缩放系数;根据待转换整型数据的数据位数对目标缩放系数的尾数进行截位得到目标缩放系数的有效尾数;基于目标缩放系数的符号、目标缩放系数的指数以及目标缩放系数的有效尾数对待转换整型数据进行格式转换,以得到待转换整型数据对应的目标浮点型数据。由此,该方法首先对目标缩放系数的尾数进行截位,然后通过截位处理后的目标缩放系数对待转换整型数据进行计算,以完成数据格式转换,大大减小了数据转换的计算量,降低了硬件资源的占用和能耗开销。

    基于DDFP数据结构的CIM数据处理方法、装置、电子设备

    公开(公告)号:CN119201034A

    公开(公告)日:2024-12-27

    申请号:CN202411310099.5

    申请日:2024-09-19

    Abstract: 本发明公开了一种基于DDFP数据结构的CIM数据处理方法、装置、电子设备。其中,方法包括:获取第一浮点数据;将第一浮点数据量化为第一浮点数对应的DDFP数据结构,其中,DDFP数据结构包括第一缩放系数和第一整型数据;将第一整型数据进行CIM计算得到第二整型数据;根据第一缩放系数、第二整型数据和CIM的计算参数确定目标缩放系数;根据第二整型数据和目标缩放系数之积确定目标浮点数据。本发明的处理方法,提供了标准化的DDFP数据结构和处理流程,可以较好地兼容数字电路和模拟电路,实现便捷的整型数据与浮点数据之间的转换,且无需调用乘法器计算硬件,降低了能效,缩短了延时。

    混合存储计算架构以及存储计算方法

    公开(公告)号:CN119960678A

    公开(公告)日:2025-05-09

    申请号:CN202510004697.8

    申请日:2025-01-02

    Abstract: 本申请涉及一种混合存储计算架构以及存储计算方法。方法包括:第一存储芯片、第二存储芯片和计算芯片;计算芯片分别与第一存储芯片和第二存储芯片连接,第二存储芯片的存储速度大于第一存储芯片的存储速度,第一存储芯片的存储密度大于第二存储芯片的存储密度;第一存储芯片和第二存储芯片,用于存储大语言模型LLM的相关数据;计算芯片,用于从第一存储芯片和第二存储芯片中获取相关数据,并基于相关数据进行大语言模型训练或大语言模型应用的计算,得到计算结果。本申请能够极大提高数据的存储计算效率、大语言模型中数据的存储空间,以及数据由存储单元传输至计算单元的传输速度。

    大语言模型输出保护方法和装置、存储介质、电子设备

    公开(公告)号:CN119862603A

    公开(公告)日:2025-04-22

    申请号:CN202510071472.4

    申请日:2025-01-16

    Abstract: 本申请公开了一种大语言模型输出保护方法和装置、存储介质、电子设备,所述方法包括:从云服务器端获取大语言模型的语言模型头层对应的原始权重矩阵的维度信息、输入向量和第一输出向量,其中,第一输出向量基于输入向量和原始权重矩阵确定;基于原始权重矩阵的维度信息确定第一低秩矩阵和第二低秩矩阵;基于输入向量、第一低秩矩阵和第二低秩矩阵确定第二输出向量;基于第一输出向量和第二输出向量确定大语言模型输出的目标词概率分布向量。本申请的方法,能够防止云端根据语言模型头的输出直接推测出模型整体的文本输出,增强隐私保护,同时还能够降低将完整语言模型头层部署在本地所带来的存储和计算开销。

    存储器及存储器的制备方法
    8.
    发明公开

    公开(公告)号:CN119300347A

    公开(公告)日:2025-01-10

    申请号:CN202411706516.8

    申请日:2024-11-26

    Abstract: 本申请公开了一种存储器及存储器的制备方法,属于半导体技术领域。所述存储器包括:写晶体管,包括第一沟道层;读晶体管,包括第二沟道层,所述读晶体管与所述写晶体管连接于存储节点;其中,所述第二沟道层的迁移率大于所述第一沟道层的迁移率,所述第一沟道层的阈值电压大于所述第二沟道层的阈值电压。本申请能够提高存储器的稳定性,优化存储器的整体性能。

    存储器存储数据纠错方法、装置、电子设备及介质

    公开(公告)号:CN119864070A

    公开(公告)日:2025-04-22

    申请号:CN202510071725.8

    申请日:2025-01-16

    Abstract: 本申请公开了一种存储器存储数据纠错方法、装置、电子设备及介质,涉及电子技术领域。其中,存储器的每个存储单元用于存储多bit数据,方法包括:对多bit数据集合进行数据编码,以获取多bit数据集合的目标校验数据,其中,多bit数据集合包括多个多bit数据;根据每个多bit数据在编码过程中的编码系数确定多bit数据集合的实际校验数据,其中,每个多bit数据的编码系数不同;在实际校验数据与目标校验数据不同的情况下,基于实际校验数据与目标校验数据的差值对相应的多bit数据进行纠错操作。如此,本申请实现了多bit数据1个LSB出错量纠错而非数据位纠错,减小了对纠错码纠错能力的需求,并在减小校验数据存储开销以及编码译码开销上有显著的优势。

Patent Agency Ranking