异构计算系统及其算力节点选择方法、装置、设备、介质

    公开(公告)号:CN116954873B

    公开(公告)日:2024-01-23

    申请号:CN202311219994.1

    申请日:2023-09-21

    Abstract: 本发明公开了一种异构计算系统及其算力节点选择方法、装置、设备、介质,应用于计算机技术领域。其中,方法包括当接收到任务执行请求,根据自定义算力节点参数运行待执行任务;利用异构计算系统的各测试算力节点,并为每个测试算力节点配置不同的测试任务参数执行待执行任务的方式,生成多个部署至异构计算系统的测试任务;基于各测试任务的测试结果和自定义算力节点参数,确定使用计算资源最少时的算力调用方案,并基于算力调用方案对自定义算力节点参数进行相应调整。本发明可以解决相关技术算力节点选择不当的弊端问题,在不增加成本(56)对比文件王可心;邵之江;钱积新.网格环境下复杂过程系统优化计算服务及任务调度策略.系统工程理论与实践.2007,(11),全文.潘佳艺;王芳;杨静怡;谭支鹏.异构Hadoop集群下的负载自适应反馈调度策略.计算机工程与科学.2017,(03),全文.

    一种加速卡数据下载方法及相关装置

    公开(公告)号:CN113726741B

    公开(公告)日:2024-01-19

    申请号:CN202110856493.9

    申请日:2021-07-28

    Abstract: 本申请公开了一种加速卡数据下载方法,包括:CPLD从数据发送装置接收加密信息;基于本地的解密算法对所述加密信息进行解密,得到唯一识别码;判断所述唯一识别码与加速卡的存储器中的识别码是否相同;若是,则在所述加速卡与所述数据发送装置之间建立硬件物理连接,以便所述数据发送装置通过所述硬件物理连接将数据发送至所述加速卡,以提高FPGA中的程序的安全性,避免FPGA中程序的泄漏。本申请还公开了一种加速卡数据下载装置,服务器以及计算机可读存储介质,具有以上有益效果。

    目标内容自动生成方法、装置、电子设备及可读存储介质

    公开(公告)号:CN117332823A

    公开(公告)日:2024-01-02

    申请号:CN202311596641.3

    申请日:2023-11-28

    Abstract: 本发明公开了一种目标内容自动生成方法、装置、电子设备及可读存储介质,应用于人工智能领域。其中,方法包括将用户的目标内容生成请求作为提示信息输入至自然语言任务处理模型得到指示任务,通过指令接口调用相应外部执行程序执行任务得到初始目标内容;利用当前长期记忆数据对指示任务和初始目标内容进行处理得到目标更新任务;将目标更新任务、初始目标内容和当前短期记忆数据作为下一轮次的提示信息输入至自然语言任务处理模型,循环执行直至指示任务为终止指令,将其上一轮次的初始目标内容作为目标内容进行输出。本发明可以解决相关技术低精度、低效率且高成本智能生成内容的问题,能够高效、高精度且低成本自动生成目标内容。

    一种任务处理方法、装置、系统、设备及可读存储介质

    公开(公告)号:CN117094376A

    公开(公告)日:2023-11-21

    申请号:CN202311352992.X

    申请日:2023-10-19

    Abstract: 本发明在计算机应用技术领域公开了一种任务处理方法、装置、系统、设备及可读存储介质,该方法利用会话基础大模型对输入信息进行处理,得到用户意图;将用户意图输入动作状态管理器进行动作分析,得到处理用户意图的动作序列;从工具库中选出与动作序列匹配的目标工具;调用目标工具,执行动作序列中的动作。本发明的技术效果:提供了实现通用人工智能AGI的一个新范式,让智能体学会使用工具,并基于行为/动作作为驱动,将基础模型与现有工具连接起来,从而执行多样化的任务。进一步,可实现通用人工智能的一致性互联,实现功能池的虚拟可扩展,实现现有工具的高效利用,实现现有数据重复利用,提高效率。

    一种图像处理方法、装置、系统、设备及计算机存储介质

    公开(公告)号:CN116704296B

    公开(公告)日:2023-11-03

    申请号:CN202310974709.0

    申请日:2023-08-04

    Abstract: 本发明公开了一种图像处理方法、装置、系统、设备及计算机存储介质,涉及图像处理技术领域,应用于目标设备,对目标设备分配得到的图像处理子神经网络模型进行当前轮的训练;计算当前轮训练好的图像处理子神经网络模型的目标函数的局部特征矩阵;判断是否传输当前轮的局部特征矩阵;若是,则传输当前轮的局部特征矩阵至主设备,以使主设备基于当前轮的局部特征矩阵生成当前轮的全局参数;若否,则不传输当前轮的局部特征矩阵至主设备,以使主设备基于上一轮的局部特征矩阵生成当前轮的全局参数;以基于当前轮的全局参数得到训练好的图像处理神经网络模型进行图像处理。目标设备选择性的将局部特征矩阵传输给主设备,提高了处理效率。

    面向异构计算系统的任务分配方法、装置、设备和介质

    公开(公告)号:CN116680060B

    公开(公告)日:2023-11-03

    申请号:CN202310961740.0

    申请日:2023-08-02

    Abstract: 本发明涉及多元异构计算技术领域,公开了面向异构计算系统的任务分配方法、装置、设备和介质,获取分布式训练任务的训练信息以及每种类型计算节点的耗时信息;训练信息包括模型信息和硬件信息。基于训练信息、耗时信息以及异构计算系统的网络通信信息,确定出各计算节点的负载耗时;根据各计算节点的负载耗时,确定出各计算节点满足节点耗时均衡条件的单次任务量;依据训练信息以及各计算节点的单次任务量,向各计算节点分配对应的训练任务。在负载均衡时考虑了异构计算系统中不同计算节点的计算性能,同时考虑异构计算系统内的网络资源,使负载均衡的效果更优。实现负载均衡仅调整每个计算节点的单次任务量,不影响分布式训练性能。

    一种梯度数据同步方法、系统、装置及介质

    公开(公告)号:CN116663639B

    公开(公告)日:2023-11-03

    申请号:CN202310945008.4

    申请日:2023-07-31

    Abstract: 本申请公开了一种梯度数据同步方法、系统、装置及介质,涉及神经网络技术领域,解决训练效率低以及模型参数陈旧的问题。该方案预先选中M个工作节点,作为触发节点;在每次迭代过程中,若存在Z个触发节点完成梯度数据计算,触发各个工作节点执行梯度数据聚合操作;根据梯度数据聚合操作得到的聚合结果更新神经网络模型的模型参数。可见,只要有Z个触发节点完成了梯度数据计算就触发各个工作节点执行梯度数据聚合,可减少等待所有加速器计算完一个批次的训练数据后才同步更新模型参数所需的时间,避免占用加速器的计算资源。此外,选择M个节点作为触发节点还可以减少模型参数陈旧性的问题,提高训练效率。

    异构计算系统及其算力节点选择方法、装置、设备、介质

    公开(公告)号:CN116954873A

    公开(公告)日:2023-10-27

    申请号:CN202311219994.1

    申请日:2023-09-21

    Abstract: 本发明公开了一种异构计算系统及其算力节点选择方法、装置、设备、介质,应用于计算机技术领域。其中,方法包括当接收到任务执行请求,根据自定义算力节点参数运行待执行任务;利用异构计算系统的各测试算力节点,并为每个测试算力节点配置不同的测试任务参数执行待执行任务的方式,生成多个部署至异构计算系统的测试任务;基于各测试任务的测试结果和自定义算力节点参数,确定使用计算资源最少时的算力调用方案,并基于算力调用方案对自定义算力节点参数进行相应调整。本发明可以解决相关技术算力节点选择不当的弊端问题,在不增加成本的基础上,实现异构计算系统中执行任务的算力节点的最优选择,优化异构计算系统的计算资源利用率。

Patent Agency Ranking