一种任务分配方法、装置及电子设备和存储介质

    公开(公告)号:CN117806835B

    公开(公告)日:2024-06-04

    申请号:CN202410224929.6

    申请日:2024-02-29

    Abstract: 本申请公开了一种任务分配方法、装置及电子设备和存储介质,涉及计算机技术领域,该方法包括:获取分布式训练的物理节点集合、数据源集合、神经网络模型、事件树集合;确定多个事件树的总能耗,选择总能耗最小的事件树作为目标事件树;以最小化训练能耗为目标确定目标事件树的目标事件或数据源分配策略;其中,目标事件或数据源分配策略用于描述处理目标事件树中事件的物理节点或数据源分配的物理节点,训练能耗包括物理节点处理事件的能耗、不同事件之间的数据传输能耗;基于目标事件或数据源分配策略将数据源和目标事件树中的事件部署于对应的物理节点。本申请降低了分布式训练神经网络模型的能耗。

    一种任务分配方法、装置及电子设备和存储介质

    公开(公告)号:CN117806835A

    公开(公告)日:2024-04-02

    申请号:CN202410224929.6

    申请日:2024-02-29

    Abstract: 本申请公开了一种任务分配方法、装置及电子设备和存储介质,涉及计算机技术领域,该方法包括:获取分布式训练的物理节点集合、数据源集合、神经网络模型、事件树集合;确定多个事件树的总能耗,选择总能耗最小的事件树作为目标事件树;以最小化训练能耗为目标确定目标事件树的目标事件或数据源分配策略;其中,目标事件或数据源分配策略用于描述处理目标事件树中事件的物理节点或数据源分配的物理节点,训练能耗包括物理节点处理事件的能耗、不同事件之间的数据传输能耗;基于目标事件或数据源分配策略将数据源和目标事件树中的事件部署于对应的物理节点。本申请降低了分布式训练神经网络模型的能耗。

    任务处理方法、装置、云边端系统、设备及介质

    公开(公告)号:CN117808036B

    公开(公告)日:2024-04-30

    申请号:CN202410224860.7

    申请日:2024-02-29

    Abstract: 本发明涉及人工智能技术领域,公开了一种任务处理方法、装置、云边端系统、设备及介质,应用于云边端系统的边缘服务器,包括:响应于推理请求,将待处理任务输入至深度学习模型中进行推理,以获取相应的任务结果;在推理的过程中,针对待处理任务进行上下文查询,获取待处理任务的重复利用效率;根据重复利用效率,动态调整深度学习模型对应的缓存数据;缓存数据包含待处理任务在深度学习模型中推理产生的中间数据和任务结果;同时,将上下文查询到的数据发送至人工智能生成内容应用程序对应的其他边缘服务器。深度学习模型对应的缓存会随着输入任务的重复利用效率被动态调整,可以提高任务处理速度和数据传输效率,节省计算资源,降低总成本。

    任务处理方法、装置、云边端系统、设备及介质

    公开(公告)号:CN117808036A

    公开(公告)日:2024-04-02

    申请号:CN202410224860.7

    申请日:2024-02-29

    Abstract: 本发明涉及人工智能技术领域,公开了一种任务处理方法、装置、云边端系统、设备及介质,应用于云边端系统的边缘服务器,包括:响应于推理请求,将待处理任务输入至深度学习模型中进行推理,以获取相应的任务结果;在推理的过程中,针对待处理任务进行上下文查询,获取待处理任务的重复利用效率;根据重复利用效率,动态调整深度学习模型对应的缓存数据;缓存数据包含待处理任务在深度学习模型中推理产生的中间数据和任务结果;同时,将上下文查询到的数据发送至人工智能生成内容应用程序对应的其他边缘服务器。深度学习模型对应的缓存会随着输入任务的重复利用效率被动态调整,可以提高任务处理速度和数据传输效率,节省计算资源,降低总成本。

    一种任务处理方法、装置、系统、设备及可读存储介质

    公开(公告)号:CN117094376B

    公开(公告)日:2024-02-23

    申请号:CN202311352992.X

    申请日:2023-10-19

    Abstract: 本发明在计算机应用技术领域公开了一种任务处理方法、装置、系统、设备及可读存储介质,该方法利用会话基础大模型对输入信息进行处理,得到用户意图;将用户意图输入动作状态管理器进行动作分析,得到处理用户意图的动作序列;从工具库中选出与动作序列匹配的目标工具;调用目标工具,执行动作序列中的动作。本发明的技术效果:提供了实现通用人工智能AGI的一个新范式,让智能体学会使用工具,并基于行为/动作作为驱动,将基础模型与现有工具连接起来,从而执行多样化的任务。进一步,可实现通用人工智能的一致性互联,实现功能池的虚拟可扩展,实现现有工具的高效利用,实现现有数据重复利用,提高效率。

    一种任务处理方法、装置、系统、设备及可读存储介质

    公开(公告)号:CN117094376A

    公开(公告)日:2023-11-21

    申请号:CN202311352992.X

    申请日:2023-10-19

    Abstract: 本发明在计算机应用技术领域公开了一种任务处理方法、装置、系统、设备及可读存储介质,该方法利用会话基础大模型对输入信息进行处理,得到用户意图;将用户意图输入动作状态管理器进行动作分析,得到处理用户意图的动作序列;从工具库中选出与动作序列匹配的目标工具;调用目标工具,执行动作序列中的动作。本发明的技术效果:提供了实现通用人工智能AGI的一个新范式,让智能体学会使用工具,并基于行为/动作作为驱动,将基础模型与现有工具连接起来,从而执行多样化的任务。进一步,可实现通用人工智能的一致性互联,实现功能池的虚拟可扩展,实现现有工具的高效利用,实现现有数据重复利用,提高效率。

Patent Agency Ranking