-
公开(公告)号:CN114168154B
公开(公告)日:2022-05-17
申请号:CN202210127026.7
申请日:2022-02-11
Applicant: 腾讯科技(深圳)有限公司
Abstract: 本申请实施例公开了一种模型数据处理方法、装置、电子设备及存储介质,应用于计算机技术领域。其中方法包括:获取目标模型的多个算子分别对应的中间表示,从多个算子分别对应的中间表示中确定不可融合的中间表示,作为待调整中间表示,对待调整中间表示进行调整,得到可融合的调整中间表示,将除待调整中间表示之外的中间表示及调整中间表示确定为多个待融合中间表示,根据多个算子之间的算法结构对多个待融合中间表示进行融合,得到至少一个目标中间表示,根据至少一个目标中间表示确定调整后的目标模型。采用本申请实施例,可以提升编译优化后的模型效果。本申请实施例可以应用于云技术、人工智能、智慧交通、车载等各种场景。
-
公开(公告)号:CN116976440A
公开(公告)日:2023-10-31
申请号:CN202211717021.6
申请日:2022-12-29
Applicant: 腾讯科技(深圳)有限公司
IPC: G06N5/04 , G06N3/0475 , G06N3/08
Abstract: 本申请实施例公开了一种模型推理方法、装置、计算机设备、存储介质和产品,通过获取在深度学习推理框架下构建的神经网络模型;通过图统一计算设备架构,对深度学习推理框架针对神经网络模型的计算流程进行捕获,得到与计算流程对应的捕获图,捕获图包含有多个节点;对捕获图中与数据传输相关的目标节点进行过滤,得到过滤后捕获图和目标节点对应的节点内容;基于目标节点对应的节点内容运行过滤后捕获图,得到神经网络模型对应的推理结果。图统一计算设备架构可以将深度学习推理框架下的神经网络模型的计算流程捕获为一张捕获图,进而减少内核启动延迟,提高对神经网络模型的推理速度,且不需要对神经网络模型中的算子进行融合,应用难度小。
-
公开(公告)号:CN116955421A
公开(公告)日:2023-10-27
申请号:CN202211509227.X
申请日:2022-11-29
Applicant: 腾讯科技(深圳)有限公司
IPC: G06F16/2455
Abstract: 本申请公开一种数据查询方法和相关装置,将计算机设备的内存设置为内存缓存,以存储待处理数据。根据第一待查询数据标识在内存缓存中查询对应的待处理数据得到第一查询结果。若确定在内存缓存中完成查询,对第一待查询数据标识对应的待处理数据进行输出。若确定内存缓存中缺失第一数据标识对应的待处理数据,在参数服务器中查询第一数据标识对应的待处理数据得到第二查询结果,第一数据标识为第一待查询数据标识中的数据标识,然后根据第一查询结果和第二查询结果对第一待查询数据标识对应的待处理数据进行输出,并利用第二查询结果中包括的第一数据标识对应的待处理数据对内存缓存进行更新。由此提高数据查询速度,提高数据处理速度,减少延迟。
-
公开(公告)号:CN114327856A
公开(公告)日:2022-04-12
申请号:CN202111225008.4
申请日:2021-10-20
Applicant: 腾讯科技(深圳)有限公司
Abstract: 本申请实施例公开了一种数据处理方法、装置、电子设备及存储介质,应用于计算机技术领域。其中方法包括:获取计算任务的配置信息,根据配置信息中包括的N个任务节点和N个任务节点之间的数据流向构造计算任务的任务流程图,遍历任务流程图中的流程节点,并根据遍历结果对任务流程图中的流程节点进行分组,得到M个流程节点分组,对M个流程节点分组中每个流程节点分组分配内存资源,根据为每个流程节点分组分别分配的内存资源,对应对每个流程节点分组内的流程节点进行任务处理,得到计算任务的任务计算结果。采用本申请实施例,可以节省计算任务执行过程中所耗费的内存资源。
-
公开(公告)号:CN109614510B
公开(公告)日:2021-05-07
申请号:CN201811406387.5
申请日:2018-11-23
Applicant: 腾讯科技(深圳)有限公司
IPC: G06F16/583 , G06F16/538
Abstract: 本发明实施例公开了一种图像检索方法、装置、图形处理器和存储介质。本发明实施例可以获取被检索图像与预存图像的图像特征信息,根据图像特征信息计算预存图像与被检索图像的相似度;对预存图像进行抽样得到样本图像,根据样本图像的相似度确定相似度阈值;对相似度数值大于相似度阈值的预存图像进行排序,得到候选图像序列;在候选图像序列中选出目标图像。由此,该方案对预存图像进行筛选,减少排序工作,仅需要对预存图像进行部分排序即可得到高质量的检索结果,缩短了图像检索的时间,减轻了资源占用,有效提高了图像检索效率。
-
公开(公告)号:CN114168154A
公开(公告)日:2022-03-11
申请号:CN202210127026.7
申请日:2022-02-11
Applicant: 腾讯科技(深圳)有限公司
Abstract: 本申请实施例公开了一种模型数据处理方法、装置、电子设备及存储介质,应用于计算机技术领域。其中方法包括:获取目标模型的多个算子分别对应的中间表示,从多个算子分别对应的中间表示中确定不可融合的中间表示,作为待调整中间表示,对待调整中间表示进行调整,得到可融合的调整中间表示,将除待调整中间表示之外的中间表示及调整中间表示确定为多个待融合中间表示,根据多个算子之间的算法结构对多个待融合中间表示进行融合,得到至少一个目标中间表示,根据至少一个目标中间表示确定调整后的目标模型。采用本申请实施例,可以提升编译优化后的模型效果。本申请实施例可以应用于云技术、人工智能、智慧交通、车载等各种场景。
-
公开(公告)号:CN113535349A
公开(公告)日:2021-10-22
申请号:CN202110011581.9
申请日:2021-01-06
Applicant: 腾讯科技(深圳)有限公司
IPC: G06F9/48
Abstract: 本申请涉及人工智能中的人脸识别,具体涉及一种数据批量处理方法、装置和存储介质。所述方法包括获取目标任务,并确定与目标任务对应的指令流;确定与目标任务对应的索引全集;索引全集中的各索引元素用于指向待处理矩阵中的各内容元素;将索引全集划分成多个数据索引集,并将各数据索引集分别分配至对应的处理通道;其中,每个处理通道所分配的数据索引集的元素数量,大于缓存单元所对应的缓存数量;基于各处理通道分别对应分配的数据索引集,并行地通过各处理通道分别执行与指令流对应的至少一轮的目标操作,直至得到与目标任务对应的操作结果。采用本方法可以提升数据批量处理的处理效率。
-
公开(公告)号:CN109614510A
公开(公告)日:2019-04-12
申请号:CN201811406387.5
申请日:2018-11-23
Applicant: 腾讯科技(深圳)有限公司
IPC: G06F16/583 , G06F16/538
Abstract: 本发明实施例公开了一种图像检索方法、装置、图形处理器和存储介质。本发明实施例可以获取被检索图像与预存图像的图像特征信息,根据图像特征信息计算预存图像与被检索图像的相似度;对预存图像进行抽样得到样本图像,根据样本图像的相似度确定相似度阈值;对相似度数值大于相似度阈值的预存图像进行排序,得到候选图像序列;在候选图像序列中选出目标图像。由此,该方案对预存图像进行筛选,减少排序工作,仅需要对预存图像进行部分排序即可得到高质量的检索结果,缩短了图像检索的时间,减轻了资源占用,有效提高了图像检索效率。
-
-
-
-
-
-
-