-
公开(公告)号:CN110796245B
公开(公告)日:2022-03-22
申请号:CN201911022124.9
申请日:2019-10-25
Applicant: 浪潮电子信息产业股份有限公司
Abstract: 本发明提供了的一种卷积神经网络模型的计算方法及装置,该方法包括:通过获取卷积神经网络模型的训练任务的计算模型;然后,将所述卷积神经网络模型的训练任务的计算模型中的乘累加运算拆分成多个乘加运算任务;再根据预设的计算模型与计算设备的对应关系,确认每一个乘加运算任务所对应的计算设备;最后,利用所述每一个乘加运算任务所对应的计算设备,分别对所述每一个乘加运算任务进行计算。达到了提高当CNN模型训练任务在不同计算设备上进行迁移或不同处理器协同计算的灵活性,提高计算速度的目的。
-
公开(公告)号:CN113988287A
公开(公告)日:2022-01-28
申请号:CN202111161608.9
申请日:2021-09-30
Applicant: 浪潮电子信息产业股份有限公司
IPC: G06N3/08
Abstract: 本申请公开了一种基于nGraph框架实现分布式神经网络训练的方法、装置及电子设备和存储介质,该方法包括:将OpenCL标准API库和Intel IKL平台环境集成到nGraph框架中;确定神经网络训练需要的算子,在nGraph框架中添加算子对应的类定义,并在FPGA后端设备中添加算子对应的kernel实现;为集群中的每个服务器创建对应的进程;在分布式神经网络训练过程中,将神经网络训练的输入数据分发至每个服务器中,每个服务器将获取到的输入数据分发至包含的多个FPGA后端设备中。本申请实现了通过nGraph框架在FPGA后端设备中进行深度学习神经网络的分布式训练。
-
公开(公告)号:CN113867950A
公开(公告)日:2021-12-31
申请号:CN202111128418.7
申请日:2021-09-26
Applicant: 浪潮电子信息产业股份有限公司
Abstract: 本申请公开了一种统一异构计算系统,一种AI加速平台。在本申请提供的统一异构计算系统中,框架支持模块能够将多种深度学习框架的模型计算图转换为具有统一格式的目标计算图;计算图优化模块能够对目标计算图进行优化,得到优化计算图;设备支持模块能够将优化计算图中的各种算子拆分为细粒度运算操作,确定细粒度运算操作对应的可执行代码,并将可执行代码传输至不同类型的AI硬件设备上运行,从而可实现多种深度学习框架的AI模型至多种AI硬件设备的解耦化映射,提高了映射的通用性、普适性和映射效率,且该系统支持模型应用过程和模型训练过程的映射。相应地,本申请提供的一种AI加速平台,也同样具有上述技术效果。
-
公开(公告)号:CN111859835A
公开(公告)日:2020-10-30
申请号:CN202010605973.3
申请日:2020-06-29
Applicant: 浪潮电子信息产业股份有限公司
IPC: G06F30/3308
Abstract: 本发明公开了一种电路互连网络模型的降阶方法、降阶装置、降阶设备及计算机可读存储介质,在根据电路互连网络的参数值建立电路互连网络的延迟模型,建立延迟模型的可控性格兰姆矩阵和延迟模型的可观性格兰姆矩阵之后,通过利用可控性格兰姆矩阵和可观性格兰姆矩阵计算交叉格兰姆矩阵,再对交叉格兰姆矩阵进行奇异值分解运算,相较于现有技术中分别对可控性格兰姆矩阵和可观性格兰姆矩阵进行奇异值分解计算的方式,在保证对可控性格兰姆矩阵和可观性格兰姆矩阵二者信息的继承的基础上极大简化了计算过程,最后根据奇异值分解结果计算投影矩阵以进行投影变换,降低了降阶过程的计算量,提高了电路互连网络的仿真效率。
-
公开(公告)号:CN119149210A
公开(公告)日:2024-12-17
申请号:CN202411667145.7
申请日:2024-11-21
Applicant: 浪潮电子信息产业股份有限公司
Abstract: 本发明公开了一种基于分离式内存系统的内存调度方法、系统以及产品,涉及内存调度技术领域。根据当前任务的需求参数和分离式内存系统的实际运行参数确定当前任务访问的目标内存设备,在实际部署内存设备之前,根据当前任务的执行的需求参数,实现对应不同任务的需求参数与分离式内存系统的实际运行参数初步确定当前任务待访问的目标内存设备。为了减小当前任务对应的访问时延,通过当前任务对应的目标计算加速器的历史调用次数和访问时延预估当前目标内存设备的访问代价,根据访问代价确定当前任务的调度内存设备,使每个任务对应的目标计算加速器访问的调度内存设备的访问代价较小,提高当前任务的目标计算加速器的访问执行效率。
-
公开(公告)号:CN117808036B
公开(公告)日:2024-04-30
申请号:CN202410224860.7
申请日:2024-02-29
Applicant: 浪潮电子信息产业股份有限公司
IPC: G06N3/04
Abstract: 本发明涉及人工智能技术领域,公开了一种任务处理方法、装置、云边端系统、设备及介质,应用于云边端系统的边缘服务器,包括:响应于推理请求,将待处理任务输入至深度学习模型中进行推理,以获取相应的任务结果;在推理的过程中,针对待处理任务进行上下文查询,获取待处理任务的重复利用效率;根据重复利用效率,动态调整深度学习模型对应的缓存数据;缓存数据包含待处理任务在深度学习模型中推理产生的中间数据和任务结果;同时,将上下文查询到的数据发送至人工智能生成内容应用程序对应的其他边缘服务器。深度学习模型对应的缓存会随着输入任务的重复利用效率被动态调整,可以提高任务处理速度和数据传输效率,节省计算资源,降低总成本。
-
公开(公告)号:CN117808036A
公开(公告)日:2024-04-02
申请号:CN202410224860.7
申请日:2024-02-29
Applicant: 浪潮电子信息产业股份有限公司
IPC: G06N3/04
Abstract: 本发明涉及人工智能技术领域,公开了一种任务处理方法、装置、云边端系统、设备及介质,应用于云边端系统的边缘服务器,包括:响应于推理请求,将待处理任务输入至深度学习模型中进行推理,以获取相应的任务结果;在推理的过程中,针对待处理任务进行上下文查询,获取待处理任务的重复利用效率;根据重复利用效率,动态调整深度学习模型对应的缓存数据;缓存数据包含待处理任务在深度学习模型中推理产生的中间数据和任务结果;同时,将上下文查询到的数据发送至人工智能生成内容应用程序对应的其他边缘服务器。深度学习模型对应的缓存会随着输入任务的重复利用效率被动态调整,可以提高任务处理速度和数据传输效率,节省计算资源,降低总成本。
-
公开(公告)号:CN117094376B
公开(公告)日:2024-02-23
申请号:CN202311352992.X
申请日:2023-10-19
Applicant: 浪潮电子信息产业股份有限公司
IPC: G06N3/08 , G06F18/22 , G06F18/214 , G06F8/60
Abstract: 本发明在计算机应用技术领域公开了一种任务处理方法、装置、系统、设备及可读存储介质,该方法利用会话基础大模型对输入信息进行处理,得到用户意图;将用户意图输入动作状态管理器进行动作分析,得到处理用户意图的动作序列;从工具库中选出与动作序列匹配的目标工具;调用目标工具,执行动作序列中的动作。本发明的技术效果:提供了实现通用人工智能AGI的一个新范式,让智能体学会使用工具,并基于行为/动作作为驱动,将基础模型与现有工具连接起来,从而执行多样化的任务。进一步,可实现通用人工智能的一致性互联,实现功能池的虚拟可扩展,实现现有工具的高效利用,实现现有数据重复利用,提高效率。
-
公开(公告)号:CN117475089A
公开(公告)日:2024-01-30
申请号:CN202311811992.1
申请日:2023-12-27
Applicant: 浪潮电子信息产业股份有限公司
Abstract: 本申请公开了一种基于预训练语言模型的三维场景生成方法及相关组件,涉及人工智能领域,解决现有三维场景生成精度低的问题。该方案通过获取用户输入的第一文本描述信息,对其进行解析,得到场景空间信息和三维物体的第二文本描述信息,可以更精确地了解目标三维场景的要求和构成;根据解析得到的信息生成三维场景空间布局,并根据第二文本描述信息生成相应的三维物体数据,最后通过融合得到最终的目标三维场景。本申请采用分而治之的思想,更注重对第一文本描述信息的解析和理解,将其分解为多个细节,并通过分步骤生成场景空间布局和三维物体的三维物体数据,最后再将其融合,使最终得到的目标三维场景的细节更准确。
-
公开(公告)号:CN116954873B
公开(公告)日:2024-01-23
申请号:CN202311219994.1
申请日:2023-09-21
Applicant: 浪潮电子信息产业股份有限公司
IPC: G06F9/48 , G06F9/50 , G06F18/214
Abstract: 本发明公开了一种异构计算系统及其算力节点选择方法、装置、设备、介质,应用于计算机技术领域。其中,方法包括当接收到任务执行请求,根据自定义算力节点参数运行待执行任务;利用异构计算系统的各测试算力节点,并为每个测试算力节点配置不同的测试任务参数执行待执行任务的方式,生成多个部署至异构计算系统的测试任务;基于各测试任务的测试结果和自定义算力节点参数,确定使用计算资源最少时的算力调用方案,并基于算力调用方案对自定义算力节点参数进行相应调整。本发明可以解决相关技术算力节点选择不当的弊端问题,在不增加成本(56)对比文件王可心;邵之江;钱积新.网格环境下复杂过程系统优化计算服务及任务调度策略.系统工程理论与实践.2007,(11),全文.潘佳艺;王芳;杨静怡;谭支鹏.异构Hadoop集群下的负载自适应反馈调度策略.计算机工程与科学.2017,(03),全文.
-
-
-
-
-
-
-
-
-