• 中国精品科技期刊
  • CCF推荐A类中文期刊
  • 计算领域高质量科技期刊T1类
高级检索

一种基于强化学习的混合缓存能耗优化与评价

范浩, 徐光平, 薛彦兵, 高赞, 张桦

范浩, 徐光平, 薛彦兵, 高赞, 张桦. 一种基于强化学习的混合缓存能耗优化与评价[J]. 计算机研究与发展, 2020, 57(6): 1125-1139. DOI: 10.7544/issn1000-1239.2020.20200010
引用本文: 范浩, 徐光平, 薛彦兵, 高赞, 张桦. 一种基于强化学习的混合缓存能耗优化与评价[J]. 计算机研究与发展, 2020, 57(6): 1125-1139. DOI: 10.7544/issn1000-1239.2020.20200010
shu
Fan Hao, Xu Guangping, Xue Yanbing, Gao Zan, Zhang Hua. An Energy Consumption Optimization and Evaluation for Hybrid Cache Based on Reinforcement Learning[J]. Journal of Computer Research and Development, 2020, 57(6): 1125-1139. DOI: 10.7544/issn1000-1239.2020.20200010
Citation: Fan Hao, Xu Guangping, Xue Yanbing, Gao Zan, Zhang Hua. An Energy Consumption Optimization and Evaluation for Hybrid Cache Based on Reinforcement Learning[J]. Journal of Computer Research and Development, 2020, 57(6): 1125-1139. DOI: 10.7544/issn1000-1239.2020.20200010
shu
范浩, 徐光平, 薛彦兵, 高赞, 张桦. 一种基于强化学习的混合缓存能耗优化与评价[J]. 计算机研究与发展, 2020, 57(6): 1125-1139. CSTR: 32373.14.issn1000-1239.2020.20200010
引用本文: 范浩, 徐光平, 薛彦兵, 高赞, 张桦. 一种基于强化学习的混合缓存能耗优化与评价[J]. 计算机研究与发展, 2020, 57(6): 1125-1139. CSTR: 32373.14.issn1000-1239.2020.20200010
shu
Fan Hao, Xu Guangping, Xue Yanbing, Gao Zan, Zhang Hua. An Energy Consumption Optimization and Evaluation for Hybrid Cache Based on Reinforcement Learning[J]. Journal of Computer Research and Development, 2020, 57(6): 1125-1139. CSTR: 32373.14.issn1000-1239.2020.20200010
Citation: Fan Hao, Xu Guangping, Xue Yanbing, Gao Zan, Zhang Hua. An Energy Consumption Optimization and Evaluation for Hybrid Cache Based on Reinforcement Learning[J]. Journal of Computer Research and Development, 2020, 57(6): 1125-1139. CSTR: 32373.14.issn1000-1239.2020.20200010
shu

一种基于强化学习的混合缓存能耗优化与评价

  • 1(天津理工大学计算机科学与工程学院 天津 300384)

  • 2(智能计算及软件新技术天津市重点实验室(天津理工大学) 天津 300384)

  • 3(天津中德应用技术大学 天津 300350) (fan-h@outlook.com)

基金项目: 国家自然科学基金项目(61971309)；天津自然科学基金项目(17JCYBJC15600，18JCYBJC84800)
详细信息

  • 中图分类号: TP303

An Energy Consumption Optimization and Evaluation for Hybrid Cache Based on Reinforcement Learning

  • 1(School of Computer Science and Engineering, Tianjin University of Technology, Tianjin 300384)

  • 2(Tianjin Key Laboratory of Intelligence Computing and Novel Software Technology(Tianjin University of Technology), Tianjin 300384)

  • 3(Tianjin Sino-German University of Applied Sciences, Tianjin 300350)

Funds: This work was supported by the National Natural Science Foundation of China (61971309) and the Tianjin Natural Science Foundation (17JCYBJC15600, 18JCYBJC84800).

HTML全文

    摘要
  • 摘要: 新兴的非易失存储器STT-RAM具有低泄漏功率、高密度和快速读取速度、高写入能量等特点；而SRAM具有高泄漏功率、低密度、快速读取写入速度、低写入能量等特点.SRAM和STT-RAM相结合组成的混合缓存充分发挥了两者的性能，提供了比SRAM更低的泄漏功率和更高的单元密度，比STT-RAM更高的写入速度和更低的写入能量.混合缓存结构主要是通过把写密集数据放入SRAM中、读密集型数据放入STT-RAM中发挥这2种存储器的性能.因此如何识别并分配读写密集型数据是混合缓存设计的关键挑战.利用缓存访问请求的写入强度和重用信息，提出一种基于强化学习的缓存管理方法，设计缓存分配策略优化能耗.关键思想是使用强化学习对得到的缓存行(cache line)集合的能耗进行学习，得到该集合分配到SRAM或者STT-RAM的权重，将集合中的缓存行分配到权重大的区域.实验评估表明：提出的策略与以前的策略相比，在单核(四核)系统中能耗平均降低了16.9％(9.7％).
    Abstract: Emerging non-volatile memory STT-RAM has the characteristics of low leakage power, high density, fast read speed, and high write energy. Meanwhile, SRAM has the characteristics of high leakage power, low density, fast read and write speed, low write energy, etc. The hybrid cache of SRAM and STT-RAM fully utilizes the respective advantages of both memory medias, providing lower leakage power and higher cell density than SRAM, higher write speed and lower write energy than STT-RAM. The architecture of hybrid cache mainly achieves both of benefits by putting write-intensive data into SRAM and read-intensive data into STT-RAM. Therefore, how to identify and allocate read-write-intensive data is the key challenge for the hybrid cache design. This paper proposes a cache management method based on the reinforcement learning that uses the write intensity and reuse information of cache access requests to design a cache allocation policy and optimize energy consumption. The key idea is to use the reinforcement learning algorithm to get the weight for the set allocating to SRAM or STT-RAM by learning from the energy consumption of cache line sets. The algorithm allocates a cache line in a set to the region with greater weight. Evaluations show that our proposed policy reduces the average energy consumption by 16.9%(9.7%) in a single-core (quad-core) system compared with the previous policies.
    • HTML全文
    • 参考文献(0)
    • 相关文章
    • 施引文献(92)

  • 期刊类型引用(27)

    1. 顾敏，徐雅男，王辛迪，花敏，周雯. 多用户MIMO-MEC网络中基于APSO的任务卸载研究. 无线电工程. 2024(03): 711-718 . 百度学术
    2. 王斐然，郭昕阳，张峰. 基于边缘计算的输电线路巡检设备协同调配研究. 自动化仪表. 2024(05): 123-126 . 百度学术
    3. 史晓蒙，吕晓鹏，魏健康，王凌. 基于算法组合的端边云任务处理方法. 价值工程. 2024(36): 108-112 . 百度学术
    4. 向朝参，程文辉，张昭，焦贤龙，屈毓锛，陈超，戴海鹏. 基于边缘智能计算的城市交通感知数据自适应恢复. 计算机研究与发展. 2023(03): 619-634 . 本站查看
    5. 邵梁，何星舟，尚俊娜. 边缘计算中利用改进型遗传算法的任务卸载策略. 计算机应用与软件. 2023(11): 48-57 . 百度学术
    6. 高仕斌，刘帝洋，韦晓广，康高强，罗嘉明，雷杰宇. 基于数字孪生网络的牵引供电智能运维体系与应用架构. 铁道学报. 2023(12): 1-15 . 百度学术
    7. 张彦虎，鄢丽娟，马志愤，张彦军. 一种适用于多任务多资源移动边缘计算环境下的改进粒子群算力卸载算法. 计算机与现代化. 2022(05): 54-60+67 . 百度学术
    8. 刘春林，秦进. 面向5G网络的移动边缘计算节点部署算法设计. 计算机仿真. 2022(12): 436-439+473 . 百度学术
    9. 张开强，蒋从锋，程小兰，贾刚勇，张纪林，万健. 多分辨率下资源感知的图像目标自适应缩放检测. 计算机科学. 2021(04): 180-186 . 百度学术
    10. 乐光学，陈光鲁，卢敏，杨晓慧，刘建华，黄淳岚，杨忠明. 一种基于K-shell影响力最大化的路径择优计算迁移算法. 计算机研究与发展. 2021(09): 2025-2039 . 本站查看
    11. 苏命峰，王国军，李仁发. 边云协同计算中基于预测的资源部署与任务调度优化. 计算机研究与发展. 2021(11): 2558-2570 . 本站查看
    12. 贾觐，暴占彪. 改进GA的边缘计算任务卸载与资源分配策略. 计算机工程与设计. 2021(11): 3009-3017 . 百度学术
    13. 汪小威，林宁，胡玉平. 移动边缘计算中利用BPSO的任务卸载策略. 计算机工程与设计. 2021(12): 3333-3341 . 百度学术
    14. 尹高，石远明. 移动边缘网络中深度学习任务卸载方案. 重庆邮电大学学报(自然科学版). 2020(01): 38-46 . 百度学术
    15. 丁雪乾，薛建彬. 边缘计算下基于Lyapunov优化的系统资源分配策略. 微电子学与计算机. 2020(02): 63-68 . 百度学术
    16. 白昱阳，黄彦浩，陈思远，张俊，李柏青，王飞跃. 云边智能:电力系统运行控制的边缘计算方法及其应用现状与展望. 自动化学报. 2020(03): 397-410 . 百度学术
    17. 乐光学，戴亚盛，杨晓慧，刘建华，游真旭，朱友康. 边缘计算可信协同服务策略建模. 计算机研究与发展. 2020(05): 1080-1102 . 本站查看
    18. 盛津芳，滕潇雨，李伟民，王斌. 移动边缘计算中基于改进拍卖模型的计算卸载策略. 计算机应用研究. 2020(06): 1688-1692 . 百度学术
    19. 胡锦天，王高才，徐晓桐. 移动边缘计算中具有能耗优化的任务迁移策略. 计算机科学. 2020(06): 260-265 . 百度学术
    20. 周振宇，陈亚鹏，潘超，赵雄文，张磊，汪中原. 面向智能电力巡检的高可靠低时延移动边缘计算技术. 高电压技术. 2020(06): 1895-1902 . 百度学术
    21. 吕洁娜，张家波，张祖凡，甘臣权. 移动边缘计算卸载策略综述. 小型微型计算机系统. 2020(09): 1866-1877 . 百度学术
    22. 张伟. 边缘计算的任务迁移机制研究. 软件导刊. 2020(09): 48-53 . 百度学术
    23. 路亚. MEC多服务器启发式联合任务卸载和资源分配策略. 计算机应用与软件. 2020(10): 77-84 . 百度学术
    24. 方加娟，李凯. 基于边缘云和移动辅助设备的计算卸载优化方案. 计算机应用与软件. 2020(12): 6-12 . 百度学术
    25. 危泽华，曾玲玲. 基于Stackelberg博弈论的边缘计算卸载决策方法. 数学的实践与认识. 2019(11): 91-100 . 百度学术
    26. 居晓琴. 移动边缘计算的QoE视频缓存方法. 电脑与信息技术. 2019(05): 44-47 . 百度学术
    27. 乐光学，戴亚盛，杨晓慧，朱友康，游真旭，刘建生. 边缘计算多约束可信协同任务迁移策略. 电信科学. 2019(11): 36-50 . 百度学术

    其他类型引用(65)

    • 资源附件(0)
计量
  • 文章访问数:  1670
  • HTML全文浏览量:  6
  • PDF下载量:  801
  • 被引次数: 92
出版历程
  • 发布日期:  2020-05-31

目录

摘要
HTML全文
    参考文献(0)
    相关文章
    施引文献(92)
    资源附件(0)

    /

    返回文章
    返回
    邮件订阅 RSS
    微信订阅号<br/>（实时资讯）

    微信订阅号
    （实时资讯）

    微信服务号<br/>（同步网站）

    微信服务号
    （同步网站）

    微信视频号<br/>（视频分享）

    微信视频号
    （视频分享）

    CCF<br/>（扫码入会）

    CCF
    （扫码入会）

    版权所有 © 《计算机研究与发展》编辑部

    本系统由北京仁和汇智信息技术有限公司开发  百度统计