异构系统中分布式任务内存分配方法、设备、介质及产品

    公开(公告)号:CN119621355A

    公开(公告)日:2025-03-14

    申请号:CN202510162976.7

    申请日:2025-02-14

    Abstract: 本发明公开了计算机技术领域内的一种异构系统中分布式任务内存分配方法、设备、介质及产品。本发明在不降低各个异构算力设备计算性能的最小访存带宽的约束下,针对参与同一分布式任务的多个异构算力设备实现了内存分配,既能保证各个异构算力设备执行分布式任务时的计算性能,又能完成内存分配,从而在异构系统中在平衡内存特性和算力设备计算能力的前提下实现了合理的内存分配,能够充分利用异构算力设备的计算性能,加速分布式任务处理效率。

    基于分离式内存系统的内存调度方法、系统以及产品

    公开(公告)号:CN119149210B

    公开(公告)日:2025-03-14

    申请号:CN202411667145.7

    申请日:2024-11-21

    Abstract: 本发明公开了一种基于分离式内存系统的内存调度方法、系统以及产品,涉及内存调度技术领域。根据当前任务的需求参数和分离式内存系统的实际运行参数确定当前任务访问的目标内存设备,在实际部署内存设备之前,根据当前任务的执行的需求参数,实现对应不同任务的需求参数与分离式内存系统的实际运行参数初步确定当前任务待访问的目标内存设备。为了减小当前任务对应的访问时延,通过当前任务对应的目标计算加速器的历史调用次数和访问时延预估当前目标内存设备的访问代价,根据访问代价确定当前任务的调度内存设备,使每个任务对应的目标计算加速器访问的调度内存设备的访问代价较小,提高当前任务的目标计算加速器的访问执行效率。

    基于异构数据的设备分簇方法、装置、设备、系统及介质

    公开(公告)号:CN117806838B

    公开(公告)日:2024-06-04

    申请号:CN202410230125.7

    申请日:2024-02-29

    Abstract: 本发明提供基于异构数据的设备分簇方法、装置、设备、系统及介质,涉及计算机技术领域,首先可将多个边缘设备划分至多个设备簇,以便各边缘设备对机器学习模型进行层级联邦训练;同时,在分簇过程中,本发明可确定各边缘设备本地的机器学习模型对同一测试数据集的推理结果,并可基于该推理结果确定各边缘设备间的训练数据相似度;进而,可利用各训练数据相似度将各边缘设备划分至多个设备簇,即可在分簇过程中考虑数据异构的特点和分布情况,并将拥有相似数据的设备放在同一簇中,从而可提高簇内数据的相似性。这样,在各边缘设备进行层级联邦训练时,可确保相近的机器学习模型参数先聚合,可确保全局模型更快收敛,并可提升联邦学习效率。

    基于分布式系统的网络安全检测方法、系统、设备及介质

    公开(公告)号:CN117811846A

    公开(公告)日:2024-04-02

    申请号:CN202410230120.4

    申请日:2024-02-29

    Abstract: 本发明公开了一种基于分布式系统的网络安全检测方法、系统、设备及介质,涉及网络安全领域,为解决边缘计算设备采用固定大小的本地网络安全检测模型无法发挥最优性能的问题,该方法包括基于本地安全数据训练初始网络安全检测模型;将测试安全数据集输入初始网络安全检测模型后,根据两个输出网络块对应的输出值调整初始网络安全检测模型的神经网络深度得到本地网络安全检测模型;当满足参数更新条件时,利用本地网络安全检测模型的模型参数和关联计算设备的模型参数更新本地网络安全检测模型;通过更新后的本地网络安全检测模型进行本地网络安全检测。本发明能够使边缘计算设备发挥最优的本地网络安全检测性能,减少了通信开销和带宽需求。

    一种预训练语言模型的信息处理方法、装置、设备及介质

    公开(公告)号:CN116955578A

    公开(公告)日:2023-10-27

    申请号:CN202311221189.2

    申请日:2023-09-21

    Abstract: 本发明公开了一种预训练语言模型的信息处理方法、装置、设备及介质,应用于人工智能技术领域,为解决现有的预训练语言模型不能更好地满足用户需求的问题,提出通过本地预训练语言模型在循环生成待回复文本的下一个词时,生成当前词典概率表;根据当前词典概率表中的各词判断是否存在最优词;若是,则将最优词作为下一个词进行生成;若否,则基于当前已生成文本生成对应的自然语言问题及问题类型;基于问题类型将自然语言问题发送至其他相应的预训练语言模型,并接收各个预训练语言模型返回的答复;从各个答复中选择出最优答复,并将最优答复作为下一个词进行生成;从而可以使基于本地预训练语言模型智能体能更好满足用户需求,提高用户使用体验。

Patent Agency Ranking