一种推理引擎的引擎参数调整方法、装置

    公开(公告)号:CN119378693B

    公开(公告)日:2025-04-18

    申请号:CN202411947794.2

    申请日:2024-12-27

    Abstract: 本申请公开了一种推理引擎的引擎参数调整方法,包括:获取推理引擎中用于在推理过程缓存数据的缓存空间的当前缓存信息,当前缓存信息包括:缓存空间中的当前数据量、以及入速率、出速率,以出速率作为用于控制缓存空间数据量的控制量,对控制量进行累计,利用当前数据量、当前入速率、以及当前出速率,以累计控制量为约束,构建用于表征缓存空间不溢出的目标函数,获取目标函数在缓存空间不溢出时的控制量估计,根据控制量估计,确定与控制量估计差异最小的配置出速率,根据配置出速率确定与该配置出速率对应的配置引擎参数,并根据该配置引擎参数调整当前引擎参数。本申请实现了推理引擎的引擎参数的自适应调整,提高了推理引擎的性能。

    模型训练方法、装置、设备、存储介质及产品

    公开(公告)号:CN119357662A

    公开(公告)日:2025-01-24

    申请号:CN202411370705.2

    申请日:2024-09-27

    Abstract: 本申请涉及边缘学习技术领域,公开了模型训练方法、装置、设备、存储介质及产品,包括:接收边缘设备发送的上报采样数据,并获取场景聚类结果及目标聚类结果;根据场景聚类结果及所述边缘场景聚类结果确定场景相似度,并根据目标聚类结果及边缘目标聚类结果确定目标相似度;根据场景相似度及目标相似度选取基础数据样本,并将基础数据样本发送至边缘设备。由于云端服务器可根据边缘设备发送的上报采样数据选取贴合边缘现场情况的基础训练样本发送至边缘设备,使得边缘设备可以根据基础训练样本为现场采集数据设置伪标签,保证边缘设备可以快速进行半监督训练。

    一种检测帧率调整方法、装置、检测设备及存储介质

    公开(公告)号:CN119767080A

    公开(公告)日:2025-04-04

    申请号:CN202411865484.6

    申请日:2024-12-17

    Abstract: 本申请实施例提供了一种检测帧率调整方法、装置、检测设备及存储介质,所述方法包括:判断目标视频采集设备的连续无目标帧的数量是否大于预设帧数,以及检测设备是否处于高负载状态;在连续无目标帧的数量大于预设帧数,或检测设备处于高负载状态的情况下,根据检测设备当前剩余的计算资源量,确定检测设备当前可执行的最大检测帧率;根据最大检测帧率调整检测设备针对目标视频采集设备采集的视频的检测帧率。由于检测设备可以随着视频采集设备的图像采集情况和检测设备的负载状态,适应性调整自身针对目标视频采集设备采集的视频的检测帧率,因此,极大地提高了检测设备在检测视频采集设备采集的视频时的灵活性。

    一种推理引擎的引擎参数调整方法、装置

    公开(公告)号:CN119378693A

    公开(公告)日:2025-01-28

    申请号:CN202411947794.2

    申请日:2024-12-27

    Abstract: 本申请公开了一种推理引擎的引擎参数调整方法,包括:获取推理引擎中用于在推理过程缓存数据的缓存空间的当前缓存信息,当前缓存信息包括:缓存空间中的当前数据量、以及入速率、出速率,以出速率作为用于控制缓存空间数据量的控制量,对控制量进行累计,利用当前数据量、当前入速率、以及当前出速率,以累计控制量为约束,构建用于表征缓存空间不溢出的目标函数,获取目标函数在缓存空间不溢出时的控制量估计,根据控制量估计,确定与控制量估计差异最小的配置出速率,根据配置出速率确定与该配置出速率对应的配置引擎参数,并根据该配置引擎参数调整当前引擎参数。本申请实现了推理引擎的引擎参数的自适应调整,提高了推理引擎的性能。

Patent Agency Ranking