• 中国精品科技期刊
  • CCF推荐A类中文期刊
  • 计算领域高质量科技期刊T1类
高级检索

基于深度强化学习的移动边缘计算任务卸载研究

卢海峰, 顾春华, 罗飞, 丁炜超, 杨婷, 郑帅

卢海峰, 顾春华, 罗飞, 丁炜超, 杨婷, 郑帅. 基于深度强化学习的移动边缘计算任务卸载研究[J]. 计算机研究与发展, 2020, 57(7): 1539-1554. DOI: 10.7544/issn1000-1239.2020.20190291
引用本文: 卢海峰, 顾春华, 罗飞, 丁炜超, 杨婷, 郑帅. 基于深度强化学习的移动边缘计算任务卸载研究[J]. 计算机研究与发展, 2020, 57(7): 1539-1554. DOI: 10.7544/issn1000-1239.2020.20190291
Lu Haifeng, Gu Chunhua, Luo Fei, Ding Weichao, Yang Ting, Zheng Shuai. Research on Task Offloading Based on Deep Reinforcement Learning in Mobile Edge Computing[J]. Journal of Computer Research and Development, 2020, 57(7): 1539-1554. DOI: 10.7544/issn1000-1239.2020.20190291
Citation: Lu Haifeng, Gu Chunhua, Luo Fei, Ding Weichao, Yang Ting, Zheng Shuai. Research on Task Offloading Based on Deep Reinforcement Learning in Mobile Edge Computing[J]. Journal of Computer Research and Development, 2020, 57(7): 1539-1554. DOI: 10.7544/issn1000-1239.2020.20190291
卢海峰, 顾春华, 罗飞, 丁炜超, 杨婷, 郑帅. 基于深度强化学习的移动边缘计算任务卸载研究[J]. 计算机研究与发展, 2020, 57(7): 1539-1554. CSTR: 32373.14.issn1000-1239.2020.20190291
引用本文: 卢海峰, 顾春华, 罗飞, 丁炜超, 杨婷, 郑帅. 基于深度强化学习的移动边缘计算任务卸载研究[J]. 计算机研究与发展, 2020, 57(7): 1539-1554. CSTR: 32373.14.issn1000-1239.2020.20190291
Lu Haifeng, Gu Chunhua, Luo Fei, Ding Weichao, Yang Ting, Zheng Shuai. Research on Task Offloading Based on Deep Reinforcement Learning in Mobile Edge Computing[J]. Journal of Computer Research and Development, 2020, 57(7): 1539-1554. CSTR: 32373.14.issn1000-1239.2020.20190291
Citation: Lu Haifeng, Gu Chunhua, Luo Fei, Ding Weichao, Yang Ting, Zheng Shuai. Research on Task Offloading Based on Deep Reinforcement Learning in Mobile Edge Computing[J]. Journal of Computer Research and Development, 2020, 57(7): 1539-1554. CSTR: 32373.14.issn1000-1239.2020.20190291

基于深度强化学习的移动边缘计算任务卸载研究

基金项目: 国家自然科学基金项目(61472139);华东理工大学教育教学规律与方法研究项目(ZH1726107)
详细信息
  • 中图分类号: TP391

Research on Task Offloading Based on Deep Reinforcement Learning in Mobile Edge Computing

Funds: This work was supported by the National Natural Science Foundation of China (61472139) and the Educational Teaching Law and Method Research Project of East China University of Science and Technology (ZH1726107).
  • 摘要: 在移动边缘计算中,本地设备可以将任务卸载到靠近网络边缘的服务器上进行数据存储和计算处理,以此降低业务服务的延迟和功耗,因此任务卸载决策具有很大的研究价值.首先构建了大规模异构移动边缘计算中具有多服务节点和移动任务内部具有多依赖关系的卸载模型;随后结合移动边缘计算的实际应用场景,提出利用改进的深度强化学习算法优化任务卸载策略;最后通过综合比较任务卸载策略的能耗、成本、负载均衡、延迟、网络使用量和平均执行时间等指标,分析了各卸载策略的优缺点.仿真实验结果表明,基于长短期记忆(long short-term memory, LSTM)网络和事后经验回放(hindsight experience replay, HER)改进的HERDRQN算法在能耗、费用、负载均衡和延迟上都有很好的效果.另外利用各算法策略对一定数量的应用进行卸载,通过比较异构设备在不同CPU利用率下的数量分布来验证卸载策略与各评价指标之间的关系,以此证明HERDRQN算法生成的策略在解决任务卸载问题中的科学性和有效性.
    Abstract: In the mobile edge computing, the local device can offload tasks to the server near the edge of the network for data storage and computation processing, thereby reducing the delay and power consumption of the service. Therefore, the task offloading decision has great research value. This paper first constructs an offloading model with multi-service nodes and multi-dependencies within mobile tasks in large-scale heterogeneous mobile edge computing. Then, an improved deep reinforcement learning algorithm is proposed to optimize the task offloading strategy by combining the actual application scenarios of mobile edge computing. Finally, the advantages and disadvantages of each offloading strategy are analyzed by comprehensively comparing the energy consumption, cost, load balancing, delay, network usage and average execution time. The simulation results show that the improved HERDRQN algorithm based on long short-term memory (LSTM) network and HER (hindsight experience replay) has good effects on energy consumption, cost, load balancing and delay. In addition, this paper uses various algorithm strategies to offload a certain number of applications, and compares the number distribution of heterogeneous devices under different CPU utilizations to verify the relationship between the offloading strategy and each evaluation index, so as to prove that the strategy generated by HERDRQN algorithm is scientific and effective in solving the task offloading problem.
  • 期刊类型引用(14)

    1. 暴琳,朱志宇,孙晓燕,徐标. 面向多源异构数据的个性化搜索和推荐算法综述. 控制理论与应用. 2024(02): 189-209 . 百度学术
    2. 王一博,张鹏翼. 基于LDA模型的国内用户画像研究主题及演化分析. 情报探索. 2024(02): 99-105 . 百度学术
    3. 韩永印,王侠,王志晓. 基于决策树的社交网络隐式用户行为数据挖掘方法. 沈阳工业大学学报. 2024(03): 312-317 . 百度学术
    4. 黄玲,黄镇伟,黄梓源,关灿荣,高月芳,王昌栋. 图卷积宽度跨域推荐系统. 计算机研究与发展. 2024(07): 1713-1729 . 本站查看
    5. 廖彬,张陶,于炯,李敏. NLGAE:一种基于改进网络结构及损失函数的图自编码器节点分类模型. 计算机科学. 2024(10): 234-246 . 百度学术
    6. 刘树越 ,于亚新 ,吴晓露 ,夏子芳 ,王子腾 . 自注意力下时空-语义相融合的POI序列推荐. 小型微型计算机系统. 2023(03): 456-462 . 百度学术
    7. 章育涛,黎英,杨雅莉. 社交网站图像分析研究综述. 信息技术与信息化. 2023(08): 114-121 . 百度学术
    8. 秦鹏,贾洪杰,霍兴瀛,邓朝艳. 融合大数据挖掘的用户个性化POI推荐方法. 计算机仿真. 2022(06): 355-358+385 . 百度学术
    9. 郑捷,杨兴耀,于炯,李想. 基于人工蜂群的移动终端大数据半监督推荐. 计算机仿真. 2022(07): 497-501 . 百度学术
    10. 李梁森,杨德宏,翟文龙,李刘飞,高励. 基于微博数据的云南省地理情感及主题特征研究. 城市勘测. 2022(04): 12-16 . 百度学术
    11. 赵凯华,徐建民,鲍彩倩. 一个基于信念网络的微博推荐模型. 河北大学学报(自然科学版). 2022(04): 438-448 . 百度学术
    12. 王小青,苏锋,蔡传根. 基于数据挖掘技术的影视智能推荐算法. 现代电子技术. 2021(11): 98-101 . 百度学术
    13. 周炫余,刘林,陈圆圆,洪嘉玲,卢笑. 基于多模态数据融合的大学生心理健康自动评估模型设计与应用研究. 电化教育研究. 2021(08): 72-78 . 百度学术
    14. 刘凯阳,姜峰,王辉. 航天话题公众关注热点和情感分析. 科技传播. 2021(19): 31-34 . 百度学术

    其他类型引用(13)

计量
  • 文章访问数: 
  • HTML全文浏览量:  0
  • PDF下载量: 
  • 被引次数: 27
出版历程
  • 发布日期:  2020-06-30

目录

    /

    返回文章
    返回