推理重调度方法、装置、设备、介质及计算机程序产品

    公开(公告)号:CN118798355A

    公开(公告)日:2024-10-18

    申请号:CN202410723443.7

    申请日:2024-06-05

    Abstract: 本发明提供一种推理重调度方法、装置、设备及可读存储介质。应用于包括推理调度器和多个推理服务器的推理调度系统。方法包括:在推理调度器与服务注册中心合设的情况下,基于每个推理服务器上报的负载状态信息,确定待重调度的第一推理服务器以及接收重调度的目标推理服务器;在推理调度器与推理服务器的流量网关合设的情况下,基于推理调度器记录的每个推理服务器的请求处理信息,确定待重调度的第一推理服务器以及接收重调度的目标推理服务器;基于第一推理服务器的请求排队时间信息,以及目标推理服务器的请求数量信息,将第一推理服务器的待重调度请求发送给目标推理服务器。本申请提升了推理重调度的整体性能。

    一种基于4G/5G网络的定位方法、装置、介质、产品及设备

    公开(公告)号:CN118433864A

    公开(公告)日:2024-08-02

    申请号:CN202410699019.3

    申请日:2024-05-31

    Abstract: 本发明公开了一种基于4G/5G网络的定位方法、装置、介质、产品及设备,GMLC网元接收客户端针对目标4G/5G用户的定位请求,并发送至MME/AMF网元;MME/AMF网元选择e‑SMLC/LMF网元;e‑SMLC/LMF网元请求MME/AMF网元将定位请求发送至定位方;定位方接收并响应定位请求,获得目标4G/5G用户的位置信息,并进行加密后发送至MME/AMF网元;MME/AMF网元接收加密后的位置信息并返回给e‑SMLC/LMF网元;e‑SMLC/LMF网元接收加密后的位置信息并进行解密,对解密获得的位置信息进行再次加密后发送至MME/AMF网元;MME/AMF网元接收再次加密后的位置信息并返回给GMLC网元;GMLC网元接收再次加密后的位置信息并进行解密,将解密获得的位置信息反馈给客户端;从而能够实现位置数据不出园区,且无需引入本地AMF/本地AMF功能。

Patent Agency Ranking