一种内存管理方法、装置、设备及介质

    公开(公告)号:CN114020454B

    公开(公告)日:2025-05-13

    申请号:CN202111257276.4

    申请日:2021-10-27

    Abstract: 本申请公开了一种内存管理方法、装置、设备及介质,包括:对异构加速计算系统的主机端的内存和各AI加速器设备的板载内存分别进行切片处理,得到相应的内存切片空间;从全部所述内存切片空间中确定出公共内存切片空间;对全部所述公共内存切片空间进行统一地址空间编址,得到相应的编址空间;在执行人工智能算法计算任务时,将人工智能算法模型部署于所述编址空间,以便各处理器访问所述编址空间中相应的公共内存切片空间,完成所述人工智能算法计算任务。能够突破AI异构加速设备间的内存物理隔离限制,提高异构加速计算系统的计算资源和内存资源利用效率。

    一种数据传输方法、产品、设备及介质

    公开(公告)号:CN118838859B

    公开(公告)日:2024-12-10

    申请号:CN202411329392.6

    申请日:2024-09-24

    Abstract: 本发明公开了一种数据传输方法、产品、设备及介质,涉及计算机技术领域。本方案在加速器端设置了微控制器,用于接收主机端发送的DMA配置信息,并将DMA配置信息传输至加速器端的处理器,即采用带外配置的方式,能够一次性接收多个DMA配置信息,避免了等待一次配置信息传输完成才能发起下次传输,有效地提高了数据传输效率;同时,由于加速器端是由微控制器对DMA传输进行控制,处理器只负责进行数据传输和计算,因此减小了处理器的逻辑开发难度。此外,方案分别采用第一通信总线传输DMA配置信息,通过第二通信总线传输DMA配置信息对应的目标数据,可实现DMA操作的实时执行,提高了数据传输的实时性。

    一种数据传输方法、产品、设备及介质

    公开(公告)号:CN118838859A

    公开(公告)日:2024-10-25

    申请号:CN202411329392.6

    申请日:2024-09-24

    Abstract: 本发明公开了一种数据传输方法、产品、设备及介质,涉及计算机技术领域。本方案在加速器端设置了微控制器,用于接收主机端发送的DMA配置信息,并将DMA配置信息传输至加速器端的处理器,即采用带外配置的方式,能够一次性接收多个DMA配置信息,避免了等待一次配置信息传输完成才能发起下次传输,有效地提高了数据传输效率;同时,由于加速器端是由微控制器对DMA传输进行控制,处理器只负责进行数据传输和计算,因此减小了处理器的逻辑开发难度。此外,方案分别采用第一通信总线传输DMA配置信息,通过第二通信总线传输DMA配置信息对应的目标数据,可实现DMA操作的实时执行,提高了数据传输的实时性。

    动作识别及其模型训练方法、装置、电子设备、存储介质

    公开(公告)号:CN117877125B

    公开(公告)日:2024-06-07

    申请号:CN202410270243.0

    申请日:2024-03-11

    Abstract: 本发明公开了一种动作识别及其模型训练方法、装置、电子设备、存储介质,应用于视频理解技术领域。其中,方法包括将具有动作标签和音频数据的视频样本输入动作识别模型,提取视频样本的视觉特征、文本语义特征及音频特征,对视觉特征、音频特征进行视觉交互和视听交互,并为文本语义特征添加交互特征,得到多模态动作标签特征;根据视觉交互特征、视听交互特征、音频特征与多模态动作标签特征之间的损失,对动作识别模型进行迭代更新。本发明可以解决相关技术精细动作识别差且动作识别任务收敛慢的问题,能够使得动作识别模型更全面地理解和描述精细动作特征,提高动作识别的性能和鲁棒性,还能增强模型扩展性和灵活性。

    一种情绪引导的摘要生成方法、系统、装置及介质

    公开(公告)号:CN117807995B

    公开(公告)日:2024-06-04

    申请号:CN202410224873.4

    申请日:2024-02-29

    Abstract: 本发明公开了一种情绪引导的摘要生成方法、系统、装置及介质,涉及人工智能技术领域,用于解决当前生成的摘要不包含情绪信息的问题。该方案利用用户输入的视觉模态信息和目标情绪信息,提取对应的第一视觉特征和目标情绪特征;利用预训练语言模型对第一视觉特征编码得到第一摘要特征;对第一摘要特征及目标情绪特征整合编码得到目标情绪摘要特征;根据目标情绪摘要特征生成与视觉模态信息对应的目标情绪摘要。本发明能够在摘要生成过程中将情绪信息融入到摘要文本中,满足用户对含有情绪信息的摘要的需求,通过结合视觉模态信息和情绪信息,能够提供更丰富、更具情绪色彩的摘要内容,从而满足用户的情绪需求。

    数据异构条件下的图像处理方法及装置

    公开(公告)号:CN117808128B

    公开(公告)日:2024-05-28

    申请号:CN202410230128.0

    申请日:2024-02-29

    Abstract: 本发明公开了一种数据异构条件下的图像处理方法、联邦学习方法及装置,涉及图像处理技术领域,边缘云服务器根据数据分布相似性对边缘计算设备分簇,簇内边缘计算设备具有相似的数据分布,可以让模型更好的捕捉到数据的特征。边缘计算设备采用残差分级训练的方式进行模型训练,实现细粒度模型训练,缓解数据分布差异大的问题。边缘计算设备与边缘云服务器在联邦学习过程中进行三层模型参数聚合,得到准确可靠的图像处理模型,最终边缘计算设备使用该准确可靠的图像处理模型进行图像处理,可以提升图像处理的准确性与可靠性。

    视觉定位方法、装置、设备及介质

    公开(公告)号:CN117876651B

    公开(公告)日:2024-05-24

    申请号:CN202410281924.7

    申请日:2024-03-13

    Abstract: 本发明涉及人工智能技术领域,公开了一种视觉定位方法、装置、设备及介质,包括:从输入图像中提取元素属性特征并输入到关联提取网络,得到元素关系特征和元素索引库;将元素关系特征和元素属性特征进行拼接,得到元素第一综合特征;从输入文本中获取文本编码特征并与元素第一综合特征进行跨模态编码,提取元素第二综合特征;对元素第二综合特征与元素索引库进行溯源编码,得到视觉溯源特征;将视觉溯源特征和文本编码特征拼接成多模态溯源特征,经定位解码器处理后输出从输入图像中定位的导致输入文本事件发生的对应元素位置。这样能够根据视觉要素和关系进行视觉因果溯源的综合推理,从而推理出人类需求在视觉上的体现,得到准确的定位结果。

    异构算力的耗时预测仿真方法、装置、设备、介质及系统

    公开(公告)号:CN117827619B

    公开(公告)日:2024-05-24

    申请号:CN202410230017.X

    申请日:2024-02-29

    Abstract: 本发明公开了计算机技术领域内的一种异构算力的耗时预测仿真方法、装置、设备、介质及系统。本发明能够构建包括通信图节点和计算图节点的有向图,从而根据多个异构算力设备的网络拓扑信息仿真得到的仿真网络预测多个通信图节点的通信耗时,根据有向图预测多个计算图节点的计算耗时,累计通信耗时和计算耗时得到模型训练任务的训练耗时。由于无需部署实际的算力设备,因此没有部署难度,实现成本低,可根据预测的训练耗时优化算力设备的部署策略,预测准确度更高,适用于多元异构计算系统。

Patent Agency Ranking