摘要:近年来,深度学习(DNN)在数据处理、图像识别、语音识别等领域取得突破性进展,已经大规模部署在物联网(IoT)设备上。然而IoT设备受到计算性能,电池容量的限制,难以低时延,低能耗地完成DNN推理任务。针对此问题,提出基于云-边-端协同计算的DNN推理任务分割卸载策略。首先分析DNN推理任务的计算和传输负载特征,以此为基础建立时延和能耗计算模型,并将此模型进行加权归一成本化处理。然后,基于云-边-端协同计算提出多智能体深度强化学习算法MAPPO-MO(Multi Agent Proximal Policy Optimization-Mutil Object)来实现DNN推理任务分割和卸载。该方法将云-边-端协同计算环境构建为马尔可夫决策过程(MDP),将处理后的成本作为奖励指导算法训练,以此实现深度强化学习训练推理过程。为了验证算法有效性,进行了仿真实验,结果表明相较于经典Local-Computing、Offloading-Computing、QMIX算法,MAPPO-MO算法在成本上具有较大优势。
文章目录
1 相关工作
2 面向云边端协同计算的DNN推理建模
2.1 云-边-端计算卸载环境
2.2 DNN推理任务负载
2.3 时延-能耗计算模型
2.3.1 时延模型
2.3.2 能耗模型
2.4 合并优化目标
3 基于云-边-端协同计算的分割卸载算法
3.1 马尔可夫决策过程
3.1.1 环境状态
3.1.2 动作空间
3.1.3 奖励函数
3.2 算法设计
4 实验性能分析
4.1 实验参数
4.2 收敛性分析
4.3 算法性能分析
4.4 成本显著性分析
4.5 异构边缘服务器性能分析
4.6 不同DNN推理任务的适用性分析
5 结束语