-
公开(公告)号：CN116776135A
公开(公告)日：2023-09-19
申请号：CN202311072802.9
申请日：2023-08-24
Applicant: 之江实验室
IPC: G06F18/2136 , G06N3/0464
Abstract: 本说明书公开了一种基于神经网络模型的物理场数据预测方法及装置，可以根据物理场数据整体在数据空间中各空间区域的数据稀疏情况，来对物理场数据进行划分，得到各分块数据，这样可以将具有计算价值的数据从物理场数据的整体中分割出来，使得预测模型对有价值的分块数据进行计算，以完成物理场数据的预测任务，从而相比于现有技术来说，可以显著的提升预测模型的运算效率。
-
公开(公告)号：CN116306856B
公开(公告)日：2023-09-05
申请号：CN202310557259.5
申请日：2023-05-17
Applicant: 之江实验室
Abstract: 本说明书公开了一种基于搜索的深度学习模型部署方法及装置，可以获取深度学习模型所对应的计算图，确定计算图中包括的算子，并确定每个算子匹配的硬件资源，而后，根据各算子匹配的硬件资源，构建搜索空间，从搜索空间中选取出目标样本，并确定目标样本对应的运行时长，以及确定目标样本对应的邻域样本，并确定邻域样本对应的运行时长，若邻域样本对应的运行时长短于目标样本的运行时长，将邻域样本作为重新确定出的目标样本，并继续确定目标样本对应的邻域样本以及对应的运行时长，直到满足预设迭代终止条件为止，按照目标样本所对应的分配方案，对深度学习模型的算子进行硬件资源的分配，以进行部署，本方法可以提高深度学习模型的计算效率。
-
公开(公告)号：CN116663618A
公开(公告)日：2023-08-29
申请号：CN202310941263.1
申请日：2023-07-28
Applicant: 之江实验室
IPC: G06N3/0464 , G06N3/063
Abstract: 本说明书公开了一种算子优化方法、装置、存储介质及电子设备。在本说明书提供的算子优化方法中，获取目标神经网络模型，并确定目标神经网络模型的计算图；针对计算图中每个算子，确定包含该算子所有可行解的搜索空间；在搜索空间中选择若干可行解作为候选解，确定各候选解的评估值，并将评估值最高的作为待定解；确定目标硬件运行待定解的运行时间，并增加迭代次数；当运行时间小于当前最优时间或不存在当前最优时间时，将运行时间确定为当前最优时间，并将待定解确定为当前最优解；当迭代次数小于指定次数时，重新在该算子的搜索空间中选择指定数量个未被选择过的候选解；当迭代次数不小于指定次数时，将当前最优解确定为该算子的最优解。
-
公开(公告)号：CN116415103A
公开(公告)日：2023-07-11
申请号：CN202310681557.5
申请日：2023-06-09
Applicant: 之江实验室
IPC: G06F17/16
Abstract: 本说明书公开了一种数据处理的方法、装置、存储介质以及电子设备，可以读取存储在指定设备内存的目标数据，并确定目标数据的各数据维度，可以根据目标数据的各数据维度，确定各种候选数据拆分方式，以及确定按照每种候选数据拆分方式执行目标数据的数据处理任务后的效率值，并根据每种候选数据拆分方式对应的效率值，确定目标数据拆分方式，其中，针对每种候选数据拆分方式，该候选数据拆分方式用于确定指定设备中至少部分的数据处理单元所要处理的数据的数据维度，数据处理单元可以包括：指定设备中的寄存器以及各级缓存。以按照目标数据拆分方式，对神经网络模型中的待处理数据进行数据处理，从而能够提高神经网络模型中矩阵运算的效率。
-
公开(公告)号：CN116185307A
公开(公告)日：2023-05-30
申请号：CN202310448220.X
申请日：2023-04-24
Applicant: 之江实验室
Abstract: 本说明书公开了一种模型数据的存储方法、装置、存储介质及电子设备。所述模型数据的存储方法包括：接收模型数据的存储请求并获取模型数据，确定所述模型数据的属性信息，根据所述属性信息，确定所述模型数据对应的存储位置，若所述存储位置位于所述AI加速器的本地存储单元，则确定与所述属性信息相匹配的压缩方式，作为目标压缩方式，通过所述目标压缩方式对所述模型数据进行压缩，并将压缩后的模型数据存储在所述本地存储单元中的所述存储位置，以及若所述存储位置位于所述AI加速器的远端存储单元，则将所述模型数据存储在所述远端存储单元中的所述存储位置。
-
Patent Agency Ranking
公开(公告)号：CN119883295A
公开(公告)日：2025-04-25
申请号：CN202510386144.3
申请日：2025-03-31
Applicant: 之江实验室
Abstract: 本说明书公开了一种模型部署方法、装置、存储介质及电子设备。所述方法包括：获取针对业务模型的初始部署策略组，初始部署策略组包括两种部署策略；将初始部署策略组中各部署策略的特征编码输入预先训练的代理模型，确定各部署策略在处理设备上的性能分布信息；利用预设的标签分布调整输入其中的至少一项输入，在输出的性能分布信息与标签分布之间的差异满足设定要求的情况下，得到调整后的部署策略组；在调整后的部署策略组中确定目标部署策略，并基于目标部署策略对业务模型进行部署。本方案降低了对模型部署策略进行探索的时间损耗，提高了模型部署效率。
-
公开(公告)号：CN118502681B
公开(公告)日：2024-10-18
申请号：CN202410975313.2
申请日：2024-07-19
Applicant: 之江实验室
Abstract: 本申请涉及用于存储数据集的方法、系统及用于训练模型的方法。该存储方法包括：获得低速存储设备的平均传输速率；根据训练程序中一次迭代的时间、训练程序的总迭代次数及平均传输速率，获得数据集中用于存储至低速存储设备的低速子集，其中，数据集用于训练模型；以及确定数据集中需要存储在高速存储设备的高速子集，高速子集用于支持训练程序的启动训练。采用本方法能够使高速存储设备和低速存储设备构成的系统的总体成本较低；并能保证有效地支持模型的训练。
-
公开(公告)号：CN118570560B
公开(公告)日：2024-09-27
申请号：CN202411044024.7
申请日：2024-07-31
Applicant: 之江实验室
IPC: G06V10/764 , G06V10/774 , G06V10/778
Abstract: 本说明书公开了一种训练图像分类模型的系统、方法、装置、介质及设备，代理节点通过数据分发模型确定训练数据的分发策略，根据分发策略为各训练节点分发训练数据。各训练节点缓存训练数据，在接收到训练任务时，先从本地缓存中获取执行训练任务所需要的训练数据，当本地缓存中的训练数据不能与执行训练任务所需要的训练数据匹配时，再获取执行训练任务所需要的且未在本地缓存的其他训练数据，从而完成训练任务。各训练节点在执行训练任务时，可确定本地缓存命中率并返回给代理节点。代理节点基于各训练节点的本地缓存命中率调整数据分发模型的参数，从而优化分发策略，以提高训练节点中训练数据的本地缓存命中率，提高图像分类模型的训练效率。
-
公开(公告)号：CN118468045A
公开(公告)日：2024-08-09
申请号：CN202410937902.1
申请日：2024-07-12
Applicant: 之江实验室
IPC: G06F18/214 , G06N3/0442 , G06N3/0455 , G06N3/048 , G06N3/08
Abstract: 本说明书公开了一种模型训练加速方法、装置及存储介质，本方法用于在存算分离模式下使用重要性采样方法进行训练的目标模型的训练样本。通过在存储层级预测模型中设置特征重构模块及长短期记忆网络模块，利用特征重构模块，对训练样本被访问信息的特征参数进行特征重构，使得存储层级预测模型充分学习被访问信息的特征。之后，利用长短期记忆网络克服了梯度消失和梯度爆炸的问题。那么，将重构特征输入长短期记忆网络模块，得到预测结果。根据预测结果及标签，对存储层级预测模型进行训练，提高了存储层级预测模型的预测目标模型所需的训练样本的存储层级的准确率，进而提高了上级缓存命中率，加速目标模型训练。
-
公开(公告)号：CN117950645B
公开(公告)日：2024-08-02
申请号：CN202410339678.6
申请日：2024-03-25
Applicant: 之江实验室
Abstract: 本发明提供一种基于硬件特征的算子调度方案自动搜索方法与系统。该方法是通过获取算子输入数据的维度信息、目标硬件的硬件特征以及包含各存储层级的容量和硬件指令支持情况；再根据目标硬件的存储层级从高到低，递归地在每一个层级上，基于贪心策略搜索该层级可接受的最佳可行的数据搬运方案；其中各层级的数据搬运方案共同构成算子的调度方案；最后进行性能评估。基于搜索到的若干个算子调度方案，通过CodeGen技术生成目标硬件上的若干个算子实现，进而在硬件上测试选出性能最优的算子调度方案。因此，本发明的技术方案能够节省算力的情况下保证算子调度的优化。
-
-
-
-
-
-
-
-
-
Search Results
50
records
(took 0.024 seconds)
