边端架构下人工智能模型推理任务的协同计算策略

    公开(公告)号:CN119514685A

    公开(公告)日:2025-02-25

    申请号:CN202411561626.X

    申请日:2024-11-04

    Abstract: 一种边端架构下人工智能模型推理任务的协同计算策略,解决终端设备计算能力有限的问题,通过与边缘侧服务器进行协同计算提高效率。首先确定边端架构,然后根据边端架构建立系统模型、通信模型和计算模型建立联合优化模型。根据联合优化模型,结合深度强化学习算法的优点,采用多智能体深度确定性策略梯度MADDPG算法求解最优的推理任务划分策略,采用DQN算法求解最优的任务调度策略。MADDPG算法运行在边缘设备侧,负责寻找推理任务的最佳划分点,DQN算法运行在边缘服务器侧,负责统筹服务器集群状态与推理任务的协同调度。通过将两种强化学习算法在任务划分与任务调度两部分分别应用,在保证任务及时得到完成的同时,减少了整体开销。

Patent Agency Ranking