-
公开(公告)号：CN119294274A
公开(公告)日：2025-01-10
申请号：CN202411832029.6
申请日：2024-12-12
Applicant: 之江实验室
IPC: G06F30/27 , G06N20/00 , G06F111/04
Abstract: 本说明书公开了一种深度学习加速器软硬件协同方法及装置，在此方法中，通过软件优化器基于初始硬件参数配置样本，确定候选模型运行信息后，通过硬件优化器，基于候选模型运行信息对应的任务效率表征值，确定下轮迭代的初始硬件参数配置样本，若监测到到达预设轮次后前后两轮所对应的初始硬件参数配置样本对应的任务效率表征值之间的偏差小于预设偏差，则将满足预设迭代条件时得到的初始硬件参数配置样本，作为目标硬件参数配置，以及将软件优化器基于目标硬件参数配置所确定的候选模型运行信息对应的候选模型运行方式，作为目标模型运行方式。通过多轮迭代对软件和硬件不断进行协同配置，以实现针对给定模型集合的最优加速器规格参数。
-
公开(公告)号：CN117649568B
公开(公告)日：2024-05-03
申请号：CN202410128337.4
申请日：2024-01-30
Applicant: 之江实验室
IPC: G06V10/764 , G06V10/762 , G06V10/74 , G06V10/82 , G06N3/0464 , G06N3/048 , G06N3/082
Abstract: 在本说明书提供的一种用于图像分类卷积神经网络的网络压缩方法及装置中，通过获取训练完成的图像分类卷积神经网络以及输入图像，将输入图像输入该图像分类卷积神经网络中，确定各节点的参数以及各节点输出的该输入图像的激活特征，针对每一网络层，根据该网络层的各节点的参数和激活特征，确定核心参数和核心激活特征，并得到参数聚类结果和激活特征聚类结果，进而确定综合聚类结果，根据该综合聚类结果对该网络层进行剪枝。通过结合参数聚类结果和激活特征聚类结果，确定综合聚类结果，综合考虑了图像分类卷积神经网络的参数相似性和激活模式，考虑更全面，有效地减少了图像分类卷积神经网络的复杂性。
-
公开(公告)号：CN116663618B
公开(公告)日：2023-12-05
申请号：CN202310941263.1
申请日：2023-07-28
Applicant: 之江实验室
IPC: G06N3/0464 , G06N3/063
Abstract: 本说明书公开了一种算子优化方法、装置、存储介质及电子设备。在本说明书提供的算子优化方法中，获取目标神经网络模型，并确定目标神经网络模型的计算图；针对计算图中每个算子，确定包含该算子所有可行解的搜索空间；在搜索空间中选择若干可行解作为候选解，确定各候选解的评估值，并将评估值最高的作为待定解；确定目标硬件运行待定解的运行时间，并增加迭代次数；当运行时间小于当前最优时间或不存在当前最优时间时，将运行时间确定为当前最优时间，并将待定解确定为当前最优解；当迭代次数小于指定次数时，重新在该算子的搜索空间中选择指定数量个未被选择过的候选解；当迭代次数不小于指定次数时，将当前最优解确定为该
-
公开(公告)号：CN116777010A
公开(公告)日：2023-09-19
申请号：CN202311080508.2
申请日：2023-08-25
Applicant: 之江实验室
IPC: G06N20/00
Abstract: 本说明书公开了一种模型训练的方法以及任务执行方法及装置，可以将获取到的在指定空间中混合物态在第一时刻下的各物理场数据输入到预测模型中，来训练该预测模型，这样一来，在将训练后的预测模型应用到实际任务执行的过程中时，相比于现有技术并不需要耗费过多的时间来一步步推导出下一时刻的指定空间中混合物态在第二时刻下的各物理场数据，这样不仅提高了预测物理场数据的效率，而且由于在训练阶段，是以混合物态在第一时刻和第二时刻前后之间的质量分布符合质量约束为条件，对预测模型进行训练，所以可以保证预测模型在实际应用中所预测出的物理场数据的准确性。
-
公开(公告)号：CN116502679B
公开(公告)日：2023-09-05
申请号：CN202310543696.1
申请日：2023-05-15
Applicant: 之江实验室
IPC: G06N3/0464 , G06N3/063 , G06N3/08
Abstract: 本说明书公开了一种模型构建方法、装置、存储介质及电子设备，可以对需要进行测试的各候选模型架构进行筛选，以筛选出通过代理模型预测出的性能参数的准确率较低的部分候选模型架构，来通过部署测试模型的方式获得该候选模型架构的真实性能参数，而针对剩余的候选模型架构，可以直接通过代理模型来获取出性能参数，并且可以通过主动学习的方法，在线对代理模型进行训练，从而可以在保证候选模型架构的性能评估准确率的同时，提升自动化构建深度学习模型的效率。
-
Patent Agency Ranking
公开(公告)号：CN116661574A
公开(公告)日：2023-08-29
申请号：CN202310860078.X
申请日：2023-07-13
Applicant: 之江实验室
IPC: G06F1/20 , G06F18/214
Abstract: 本说明书公开了一种计算设备散热的方法、装置、存储介质及电子设备，本方法通过确定各时刻的计算设备的芯片的特征以及计算设备的散热单元中冷却介质的特征确定训练样本，并获取散热单元的控制指令作为训练样本的标注，然后针对每个特征维度，根据该维度的特征对训练样本进行排序以确定该维度的样本序列，再确定标注相同且连续的各训练样本组成的待选样本组，并确定包含训练样本数量不小于预设数量的待选样本组作为目标样本组，根据各目标样本组以及各目标样本组对应的标注确定控制规则，进一步对计算设备进行散热控制。本方法通过对历史上控制指令、芯片特征以及散热单元中冷却介质的特征的学习生成控制规则，使计算设备可以自行进行散热控制。
-
公开(公告)号：CN116301904B
公开(公告)日：2023-08-22
申请号：CN202310559970.4
申请日：2023-05-18
Applicant: 之江实验室
IPC: G06F8/41 , G06N3/006 , G06N3/0475 , G06N3/08
Abstract: 本发明公开了一种用于深度学习编译器的算子优化加速方法及装置，目的是减少算子优化空间的搜索时间。该方法首先将神经网络抽象成计算图的形式，再对计算图进行图优化，并为优化后的计算图中的每个算子定义优化空间。然后以LightGBM为代价模型，粒子群优化算法为搜索算法对优化空间进行搜索。在每轮搜索中，对搜索算法输出的候选解采用DBSCAN进行聚类和采样，减少在硬件上的实测次数，进一步提升搜索效率。
-
公开(公告)号：CN116521380A
公开(公告)日：2023-08-01
申请号：CN202310819041.2
申请日：2023-07-05
Applicant: 之江实验室
Abstract: 本说明书公开了一种资源自适应协同的模型训练加速方法、装置及设备。所述方法包括：获取不同计算单元对应的计算精度信息以及计算资源信息，基于的计算精度信息以及计算资源信息，生成各资源调用策略；在获取到目标模型的模型数据后，针对目标模型的每个训练阶段，确定该训练阶段所需的目标计算精度以及目标计算资源；确定满足各训练阶段的计算精度需求和计算资源需求的各资源调用策略，作为各候选调用策略；按照指定评估条件在各候选调用策略中选取出目标调用策略；根据目标调用策略调用各计算单元对应的计算资源，以执行目标模型每个训练阶段的训练任务。
-
公开(公告)号：CN116204387B
公开(公告)日：2023-07-21
申请号：CN202310461391.6
申请日：2023-04-26
Applicant: 之江实验室
Abstract: 本说明书公开了一种芯片电流的预测方法、装置、介质及电子设备，采用可解释人工智能技术，获取芯片中的任务负载状态以及指令集，该任务负载状态包括运算单元任务负载状态和缓存单元任务负载状态。将该芯片的任务负载状态输入到第一回归模型，以使第一回归模型确定该芯片维持该任务负载状态的所需电流。并将该指令集输入第二回归模型，以使第二回归模型确定该芯片执行该指令集中的指令后的电流变化值。根据该芯片维持该任务负载状态的所需电流以及该芯片执行该指令集中包含的指令后的电流变化值，以确定该芯片的增量电流。实现了对芯片维持作业的电流的预测，且因为第一回归模型与第二回归模型具备可解释性，提高了预测电流作业的可靠性及可控性。
-
公开(公告)号：CN116185307B
公开(公告)日：2023-07-04
申请号：CN202310448220.X
申请日：2023-04-24
Applicant: 之江实验室
Abstract: 本说明书公开了一种模型数据的存储方法、装置、存储介质及电子设备。所述模型数据的存储方法包括：接收模型数据的存储请求并获取模型数据，确定所述模型数据的属性信息，根据所述属性信息，确定所述模型数据对应的存储位置，若所述存储位置位于所述AI加速器的本地存储单元，则确定与所述属性信息相匹配的压缩方式，作为目标压缩方式，通过所述目标压缩方式对所述模型数据进行压缩，并将压缩后的模型数据存储在所述本地存储单元中的所述存储位置，以及若所述存储位置位于所述AI加速器的远端存储单元，则将所述模型数据存储在所述远端存储单元中的所述存储位置。
-
-
-
-
-
-
-
-
-
Search Results
44
records
(took 0.04 seconds)
