-
公开(公告)号：CN116306855A
公开(公告)日：2023-06-23
申请号：CN202310555078.9
申请日：2023-05-17
Applicant: 之江实验室
Abstract: 本说明书公开了一种基于存算一体系统的数据处理方法及装置，根据目标模型确定目标单元的目标数量以及各目标单元对应的控制向量，从存算一体系统的各数据处理单元中选择目标数量的目标单元，进而根据各目标单元对应的控制向量，从各类型的候选操作中，分明别确定各目标单元对应的目标操作，以便将各目标单元的输入分别输入到各目标单元中，对各目标单元的输入采用目标操作执行数据处理，得到目标模型的输出数据。可见，基于目标单元对应的控制向量确定目标单元执行的目标操作的方式，仅通过改变控制向量就能够兼容不同架构的模型，无需进行电路结构的重新设计，扩展了基于存算一体电路的模型推理的场景，并提高了效率。
-
公开(公告)号：CN116225192A
公开(公告)日：2023-06-06
申请号：CN202310509059.2
申请日：2023-05-08
Applicant: 之江实验室
Abstract: 本说明书公开了一种散热系统的控制方法、装置、存储介质及电子设备，本说明书实施例先根据历史上散热系统对计算集群散热时的各历史记录中确定出用于控制散热的各策略组合，针对每个策略组合，对各历史记录进行处理，确定在该策略组合下特征向量涉及的至少一个特征维度所对应的特征值范围，作为该策略组合的适用条件。根据每个策略组合的适用条件，构建模型，并通过模型输出的目标策略组合控制散热系统。在此方法中，通过对各历史记录进行分析，确定出采用每个策略组合所适用的条件。当需要控制散热系统时，将当前散热系统和计算集群的状态信息与各条件进行匹配，以确定出匹配上的条件所对应的目标策略组合，以控制散热系统。
-
公开(公告)号：CN116185307A
公开(公告)日：2023-05-30
申请号：CN202310448220.X
申请日：2023-04-24
Applicant: 之江实验室
Abstract: 本说明书公开了一种模型数据的存储方法、装置、存储介质及电子设备。所述模型数据的存储方法包括：接收模型数据的存储请求并获取模型数据，确定所述模型数据的属性信息，根据所述属性信息，确定所述模型数据对应的存储位置，若所述存储位置位于所述AI加速器的本地存储单元，则确定与所述属性信息相匹配的压缩方式，作为目标压缩方式，通过所述目标压缩方式对所述模型数据进行压缩，并将压缩后的模型数据存储在所述本地存储单元中的所述存储位置，以及若所述存储位置位于所述AI加速器的远端存储单元，则将所述模型数据存储在所述远端存储单元中的所述存储位置。
-
公开(公告)号：CN119883295A
公开(公告)日：2025-04-25
申请号：CN202510386144.3
申请日：2025-03-31
Applicant: 之江实验室
Abstract: 本说明书公开了一种模型部署方法、装置、存储介质及电子设备。所述方法包括：获取针对业务模型的初始部署策略组，初始部署策略组包括两种部署策略；将初始部署策略组中各部署策略的特征编码输入预先训练的代理模型，确定各部署策略在处理设备上的性能分布信息；利用预设的标签分布调整输入其中的至少一项输入，在输出的性能分布信息与标签分布之间的差异满足设定要求的情况下，得到调整后的部署策略组；在调整后的部署策略组中确定目标部署策略，并基于目标部署策略对业务模型进行部署。本方案降低了对模型部署策略进行探索的时间损耗，提高了模型部署效率。
-
公开(公告)号：CN117952182A
公开(公告)日：2024-04-30
申请号：CN202410345301.1
申请日：2024-03-25
Applicant: 之江实验室
Abstract: 本说明书公开了一种基于数据质量的混合精度模型训练方法及装置。所述任务执行方法包括：服务器首先接收训练指令，并执行训练指令，以获取目标模型，将预设的样本数据输入到预设的精度调整模型中，得到针对目标模型中包含的每个网络层对应关联数据的调整后精度。并根据调整后精度，对目标模型进行精度调整，得到调整后目标模型，并将样本数据输入调整后目标模型中，得到针对样本数据的预测结果，以最小化预测结果与样本数据对应的实际结果之间的偏差，以及最小化调整后目标模型处理样本数据所消耗的时间为优化目标，对目标模型以及精度调整模型进行训练。
-
Patent Agency Ranking
公开(公告)号：CN117666971A
公开(公告)日：2024-03-08
申请号：CN202410136688.X
申请日：2024-01-31
Applicant: 之江实验室
IPC: G06F3/06 , G06F18/214
Abstract: 在本说明书提供的一种工业领域的数据存储方法、装置及设备中，通过响应于训练目标模型的原始数据的存储请求，确定目标模型的模型类型、训练完成的回归模型以及若干待选存储地址。针对每个待选存储地址，将原始数据、第一公式以及该待选存储地址输入回归模型，得到该待选存储地址的训练效果；根据各待选存储地址的训练效果，从各待选存储地址中，确定目标存储地址，并将原始数据存储至目标存储地址。通过计算存储请求中原始数据的不同待存储地址的训练效果，确定原始数据的目标存储地址，并将原始存储至目标存储地址，达到了根据数据训练的效果的对数据进行存储的目标。
-
公开(公告)号：CN117649568A
公开(公告)日：2024-03-05
申请号：CN202410128337.4
申请日：2024-01-30
Applicant: 之江实验室
IPC: G06V10/764 , G06V10/762 , G06V10/74 , G06V10/82 , G06N3/0464 , G06N3/048 , G06N3/082
Abstract: 在本说明书提供的一种用于图像分类卷积神经网络的网络压缩方法及装置中，通过获取训练完成的图像分类卷积神经网络以及输入图像，将输入图像输入该图像分类卷积神经网络中，确定各节点的参数以及各节点输出的该输入图像的激活特征，针对每一网络层，根据该网络层的各节点的参数和激活特征，确定核心参数和核心激活特征，并得到参数聚类结果和激活特征聚类结果，进而确定综合聚类结果，根据该综合聚类结果对该网络层进行剪枝。通过结合参数聚类结果和激活特征聚类结果，确定综合聚类结果，综合考虑了图像分类卷积神经网络的参数相似性和激活模式，考虑更全面，有效地减少了图像分类卷积神经网络的复杂性。
-
公开(公告)号：CN117130693B
公开(公告)日：2024-02-13
申请号：CN202311397785.6
申请日：2023-10-26
Applicant: 之江实验室
Abstract: 本申请涉及一种张量卸载方法、装置、计算机设备及存储介质。所述方法包括：获取张量特征信息，所述张量特征信息包括待训练模型每层的显存容量需求、计算间隔以及计算延迟信息；基于预设卸载策略和所述显存容量需求确定显存约束条件，基于所述预设卸载策略和计算间隔确定卸载时间约束条件，所述预设卸载策略包括主存卸载和重计算卸载；基于所述显存约束条件和卸载时间约束条件筛选所述预设卸载策略，确定多个候选卸载策略；基于所述计算延迟信息确定每个候选卸载策略的额外计算延迟，基于所述额外计算延迟确定目标卸载策略，并基于所述目(56)对比文件卢海峰;顾春华;罗飞;丁炜超;杨婷;郑帅.基于深度强化学习的移动边缘计算任务卸载研究.计算机研究与发展.2020,(第07期),全文.马玮良;彭轩;熊倩;石宣化;金海.深度学习中的内存管理问题研究综述.大数据.2020,(第04期),全文.
-
公开(公告)号：CN116931955B
公开(公告)日：2024-01-09
申请号：CN202311202659.0
申请日：2023-09-18
Applicant: 之江实验室
Abstract: 本说明书公开了基于人工智能的编译器自动调优方法及装置，在此方法中，将程序输入到模型中得到各优化序列，编译器针对每个优化序列对程序进行编译运行得到实际运行时间，据此来调整智能体模型输出各优化序列的概率，使得训练后的智能体模型能够输出最优的优化序列，而编译器使用最优优化序列对待运行程序进行编译优化，从而在一定程度上提高运行效率和减少资源浪费。
-
公开(公告)号：CN117075918A
公开(公告)日：2023-11-17
申请号：CN202311328294.6
申请日：2023-10-13
Applicant: 之江实验室
Abstract: 在一种模型部署方法、装置、存储介质及电子设备中，响应于待优化模型，生成计算逻辑单元以及对应的张量程序，并确定各所述计算逻辑单元对应的类型。然后，依次确定各计算逻辑单元之后计算逻辑单元为约束单元，根据该计算逻辑单元的张量程序以及约束单元的张量程序，确定数据排布优化转换方案。最后，将该计算逻辑单元的张量程序、约束单元的张量程序以及转换方案组合，得到候选策略，根据耗时从各候选策略中选择目标策略并根据目标策略并进行模型部署。通过获取全局最优部署策略，解决了优化后各层中间表示最优结果存在冲突的情况，提高了模型部署效率。
-
-
-
-
-
-
-
-
-
Search Results
44
records
(took 0.04 seconds)
