• 中国精品科技期刊
  • CCF推荐A类中文期刊
  • 计算领域高质量科技期刊T1类
高级检索

一种面向边缘计算的高效异步联邦学习机制

芦效峰, 廖钰盈, Pietro Lio, Pan Hui

芦效峰, 廖钰盈, Pietro Lio, Pan Hui. 一种面向边缘计算的高效异步联邦学习机制[J]. 计算机研究与发展, 2020, 57(12): 2571-2582. DOI: 10.7544/issn1000-1239.2020.20190754
引用本文: 芦效峰, 廖钰盈, Pietro Lio, Pan Hui. 一种面向边缘计算的高效异步联邦学习机制[J]. 计算机研究与发展, 2020, 57(12): 2571-2582. DOI: 10.7544/issn1000-1239.2020.20190754
shu
Lu Xiaofeng, Liao Yuying, Pietro Lio, Pan Hui. An Asynchronous Federated Learning Mechanism for Edge Network Computing[J]. Journal of Computer Research and Development, 2020, 57(12): 2571-2582. DOI: 10.7544/issn1000-1239.2020.20190754
Citation: Lu Xiaofeng, Liao Yuying, Pietro Lio, Pan Hui. An Asynchronous Federated Learning Mechanism for Edge Network Computing[J]. Journal of Computer Research and Development, 2020, 57(12): 2571-2582. DOI: 10.7544/issn1000-1239.2020.20190754
shu
芦效峰, 廖钰盈, Pietro Lio, Pan Hui. 一种面向边缘计算的高效异步联邦学习机制[J]. 计算机研究与发展, 2020, 57(12): 2571-2582. CSTR: 32373.14.issn1000-1239.2020.20190754
引用本文: 芦效峰, 廖钰盈, Pietro Lio, Pan Hui. 一种面向边缘计算的高效异步联邦学习机制[J]. 计算机研究与发展, 2020, 57(12): 2571-2582. CSTR: 32373.14.issn1000-1239.2020.20190754
shu
Lu Xiaofeng, Liao Yuying, Pietro Lio, Pan Hui. An Asynchronous Federated Learning Mechanism for Edge Network Computing[J]. Journal of Computer Research and Development, 2020, 57(12): 2571-2582. CSTR: 32373.14.issn1000-1239.2020.20190754
Citation: Lu Xiaofeng, Liao Yuying, Pietro Lio, Pan Hui. An Asynchronous Federated Learning Mechanism for Edge Network Computing[J]. Journal of Computer Research and Development, 2020, 57(12): 2571-2582. CSTR: 32373.14.issn1000-1239.2020.20190754
shu

一种面向边缘计算的高效异步联邦学习机制

  • 1(北京邮电大学网络空间安全学院 北京 100876)

  • 2(剑桥大学计算机实验室 英国剑桥 CB3 0FD)

  • 3(香港科技大学计算机科学与工程学院 香港 999077) (luxf@bupt.edu.cn)

基金项目: 国家自然科学基金项目(61472046)；北京市科学技术协会种子基金项目；蚂蚁金服安全专项科研基金项目
详细信息

  • 中图分类号: TP301.6

An Asynchronous Federated Learning Mechanism for Edge Network Computing

  • 1(School of Cyberspace Security, Beijing University of Posts and Telecommunications, Beijing 100876)

  • 2(Computer Laboratory, University of Cambridge, Cambridge CB3 0FD)

  • 3(Department of Computer Science & Engineering, Hong Kong University of Science and Technology, Hong Kong 999077)

Funds: This work was supported by the National Natural Science Foundation of China (61472046), the Beijing Association for Science and Technology Seed Fund, and the Ant Financial Security Special Research Fund.

摘要

    摘要
  • 摘要: 随着物联网和移动设备性能的不断提高，一种新型计算架构——边缘计算——应运而生.边缘计算的出现改变了数据需要集中上传到云端进行处理的局面，最大化利用边缘物联网设备的计算和存储能力.边缘计算节点对本地数据进行处理，不再需要把大量的本地数据上传到云端进行处理，减少了数据传输的延时.在边缘网络设备上进行人工智能运算的需求也在逐日增大，因为联邦学习机制不需要把数据集中后进行模型训练，所以更适合于节点平均数据量有限的边缘网络机器学习的场景.针对以上挑战，提出了一种面向边缘网络计算的高效异步联邦学习机制(efficient asynchronous federated learning mechanism for edge network computing， EAFLM)，根据自适应的阈值对训练过程中节点与参数服务器之间的冗余通信进行压缩.其中，双重权重修正的梯度更新算法，允许节点在学习的任何过程中加入或退出联邦学习.实验显示提出的方法将梯度通信压缩至原通信次数的8.77%时，准确率仅降低0.03%.
    Abstract: With the continuous improvement of the performance of the IoT and mobile devices, a new type of computing architecture, edge computing, came into being. The emergence of edge computing has changed the situation where data needs to be uploaded to the cloud for data processing, fully utilizing the computing and storage capabilities of edge IoT devices. Edge nodes process private data locally and no longer need upload a large amount of data to the cloud for processing, reducing the transmission delay. The demand for implementing artificial intelligence frameworks on edge nodes is also increasing day by day. Because the federated learning mechanism does not require centralized data for model training, it is more suitable for edge network machine learning scenarios where the average amount of data of nodes is limited. This paper proposes an efficient asynchronous federated learning mechanism for edge network computing (EAFLM), which compresses the redundant communication between the nodes and the parameter server during the training process according to the self-adaptive threshold. The gradient update algorithm based on dual-weight correction allows nodes to join or withdraw from federated learning during any process of learning. Experimental results show that when the gradient communication is compressed to 8.77% of the original communication times, the accuracy of the test set is only reduced by 0.03%.
    • HTML全文
    • 参考文献(0)
    • 相关文章
    • 施引文献(70)

  • 期刊类型引用(16)

    1. 杨驰，俞贵琪，张建军，彭博，贾徽徽. 基于加权联邦学习和神经网络的工控系统入侵检测. 智能计算机与应用. 2025(03): 79-86 . 百度学术
    2. 李群，陈思光. 基于选择性通信策略的高效联邦学习研究. 小型微型计算机系统. 2024(03): 549-554 . 百度学术
    3. 张红艳，张玉，曹灿明. 一种解决数据异构问题的联邦学习方法. 计算机应用研究. 2024(03): 713-720 . 百度学术
    4. 张海波，任俊平，蔡磊，邹灿. 一种基于优化引导的无线联邦学习异步训练机制. 电讯技术. 2024(06): 979-988 . 百度学术
    5. 谭玉玲，欧国成，曹灿明，柴争议. 基于用户层次聚类的联邦学习优化方法. 南京理工大学学报. 2024(04): 469-478+488 . 百度学术
    6. 郑赛，李天瑞，黄维. 面向通信成本优化的联邦学习算法. 计算机应用. 2023(01): 1-7 . 百度学术
    7. 郭松岳，王阳谦，柏思远，刘永恒，周骏，王梦鸽，廖清. 面向数据混合分布的联邦自适应交互模型. 计算机研究与发展. 2023(06): 1346-1357 . 本站查看
    8. 秦宝东，杨国栋，马宇涵. 一种基于异步联邦学习的安全聚合机制. 西安邮电大学学报. 2023(01): 50-61 . 百度学术
    9. 李晓伟，陈本辉，杨邓奇，伍高飞. 边缘计算环境下安全协议综述. 计算机研究与发展. 2022(04): 765-780 . 本站查看
    10. 刘晶，董志红，张喆语，孙志刚，季海鹏. 基于联邦增量学习的工业物联网数据共享方法. 计算机应用. 2022(04): 1235-1243 . 百度学术
    11. 薛晓慧，郭志华，芮光辉，厉娜，马晓琴. 基于梯度统计的无线联邦学习的功率控制优化. 科学技术与工程. 2022(11): 4400-4409 . 百度学术
    12. 雷炳银，刘力，井琼琼，孙荣智，孙炜哲，苏雨晴. 基于边缘计算的AI可视化网关模块化设计. 信息技术. 2022(08): 155-160 . 百度学术
    13. 金歌，魏晓超，魏森茂，王皓. FPCBC:基于众包聚合的联邦学习隐私保护分类系统. 计算机研究与发展. 2022(11): 2377-2394 . 本站查看
    14. 朱思峰，赵明阳，柴争义. 边缘计算场景中基于粒子群优化算法的计算卸载. 吉林大学学报(工学版). 2022(11): 2698-2705 . 百度学术
    15. 张学军，何福存，盖继扬，鲍俊达，黄海燕，杜晓刚. 边缘计算下指纹室内定位差分私有联邦学习模型. 计算机研究与发展. 2022(12): 2667-2688 . 本站查看
    16. 刘飚，张方佼，王文鑫，谢康，张健毅. 基于矩阵映射的拜占庭鲁棒联邦学习算法. 计算机研究与发展. 2021(11): 2416-2429 . 本站查看

    其他类型引用(54)

    • 资源附件(0)
计量
  • 文章访问数: 
  • HTML全文浏览量:  0
  • PDF下载量: 
  • 被引次数: 70
出版历程
  • 发布日期:  2020-11-30

目录

摘要
HTML全文
    参考文献(0)
    相关文章
    施引文献
    资源附件(0)

    /

    返回文章
    返回
    邮件订阅 RSS
    微信订阅号<br/>（实时资讯）

    微信订阅号
    （实时资讯）

    微信服务号<br/>（同步网站）

    微信服务号
    （同步网站）

    微信视频号<br/>（视频分享）

    微信视频号
    （视频分享）

    CCF<br/>（扫码入会）

    CCF
    （扫码入会）

    版权所有 © 《计算机研究与发展》编辑部

    本系统由北京仁和汇智信息技术有限公司开发  百度统计