• 中国精品科技期刊
  • CCF推荐A类中文期刊
  • 计算领域高质量科技期刊T1类
高级检索

基于秘密分享和梯度选择的高效安全联邦学习

董业, 侯炜, 陈小军, 曾帅

董业, 侯炜, 陈小军, 曾帅. 基于秘密分享和梯度选择的高效安全联邦学习[J]. 计算机研究与发展, 2020, 57(10): 2241-2250. DOI: 10.7544/issn1000-1239.2020.20200463
引用本文: 董业, 侯炜, 陈小军, 曾帅. 基于秘密分享和梯度选择的高效安全联邦学习[J]. 计算机研究与发展, 2020, 57(10): 2241-2250. DOI: 10.7544/issn1000-1239.2020.20200463
shu
Dong Ye, Hou Wei, Chen Xiaojun, Zeng Shuai. Efficient and Secure Federated Learning Based on Secret Sharing and Gradients Selection[J]. Journal of Computer Research and Development, 2020, 57(10): 2241-2250. DOI: 10.7544/issn1000-1239.2020.20200463
Citation: Dong Ye, Hou Wei, Chen Xiaojun, Zeng Shuai. Efficient and Secure Federated Learning Based on Secret Sharing and Gradients Selection[J]. Journal of Computer Research and Development, 2020, 57(10): 2241-2250. DOI: 10.7544/issn1000-1239.2020.20200463
shu
董业, 侯炜, 陈小军, 曾帅. 基于秘密分享和梯度选择的高效安全联邦学习[J]. 计算机研究与发展, 2020, 57(10): 2241-2250. CSTR: 32373.14.issn1000-1239.2020.20200463
引用本文: 董业, 侯炜, 陈小军, 曾帅. 基于秘密分享和梯度选择的高效安全联邦学习[J]. 计算机研究与发展, 2020, 57(10): 2241-2250. CSTR: 32373.14.issn1000-1239.2020.20200463
shu
Dong Ye, Hou Wei, Chen Xiaojun, Zeng Shuai. Efficient and Secure Federated Learning Based on Secret Sharing and Gradients Selection[J]. Journal of Computer Research and Development, 2020, 57(10): 2241-2250. CSTR: 32373.14.issn1000-1239.2020.20200463
Citation: Dong Ye, Hou Wei, Chen Xiaojun, Zeng Shuai. Efficient and Secure Federated Learning Based on Secret Sharing and Gradients Selection[J]. Journal of Computer Research and Development, 2020, 57(10): 2241-2250. CSTR: 32373.14.issn1000-1239.2020.20200463
shu

基于秘密分享和梯度选择的高效安全联邦学习

  • 1(中国科学院信息工程研究所 北京 100195)

  • 2(中国科学院大学网络空间安全学院 北京 101408) (dongye@iie.ac.cn)

详细信息

  • 中图分类号: TP391; TP181

Efficient and Secure Federated Learning Based on Secret Sharing and Gradients Selection

  • 1(Institute of Information Engineering, Chinese Academy of Sciences, Beijing 100195)

  • 2(School of Cyber Security, University of Chinese Academy of Sciences, Beijing 101408)

HTML全文

    摘要
  • 摘要: 近年来，联邦学习已经成为一种新兴的协作式机器学习方法.在联邦学习中，分布式用户可以仅通过共享梯度来训练各种模型.但是一些研究表明梯度也会泄露用户的隐私信息，而安全多方计算被认为是一种保护隐私安全的有效工具.另一方面，一些研究人员提出了Top-K梯度选择算法，以减少用户之间同步梯度的通信开销.但是，目前很少有工作可以平衡这2个领域的优势.将秘密共享与Top-K梯度选择相结合，设计了高效且安全的联邦学习协议，以便在保证用户隐私和数据安全的同时，减少通信开销，并提高模型训练效率.此外，提出了一种高效的方法来构造消息验证码，以验证服务器返回的聚合结果的有效性，其中，验证码引入的通信开销与梯度的数量无关.实验结果表明：相比于同样条件下的明文训练，该文的安全技术在通信和计算方面都会引入少量额外的开销，但该方案取得了和明文训练同一水平的模型准确率.
    Abstract: In recent years, federated learning (FL) has been an emerging collaborative machine learning method where distributed users can train various models by only sharing gradients. To prevent privacy leakages from gradients, secure multi-party computation (MPC) has been considered as a promising guarantee recently. Meanwhile, some researchers proposed the Top-K gradients selection algorithm to reduce the traffic for synchronizing gradients among distributed users. However, there are few works that can balance the advantages of the two areas at present. We combine secret sharing with Top-K gradients selection to design efficient and secure federated learning protocols, so that we can cut down the communication overheads and improve the efficiency during the training phase while guaranteeing the users privacy and data security. Also, we propose an efficient method to construct message authentication code (MAC) to verify the validity of the aggregated results from the servers. And the communication overheads introduced by the MAC is small and independent of the number of shared gradients. Besides, we implement a prototype system. Compared with the plaintext training, on the one hand, our secure techniques introduce small additional overheads in communication and computation; On the other hand, we achieve the same level of accuracy as the plaintext training.
    • HTML全文
    • 参考文献(0)
    • 相关文章
    • 施引文献(71)

  • 期刊类型引用(30)

    1. 周乐. 政府数据开放共享平台建构中的边缘计算风险及其多元规制. 交大法学. 2025(02): 78-89 . 百度学术
    2. 董新宇，段永彪. 数字治理视域下隐私保护的实现机制与优化路径. 信息技术与管理应用. 2024(02): 9-19 . 百度学术
    3. 李迎娟，王紫琼，邰杨芳. 大数据环境下病案信息协同管理模型构建. 信息技术. 2024(08): 86-92+99 . 百度学术
    4. 施鑫垚，王静宇，刘立新. 物联网环境下分布式的隐私保护数据聚合方案. 小型微型计算机系统. 2024(08): 2026-2033 . 百度学术
    5. 杨志勇，严璐. 大数据下移动边缘网络的资源管理与隐私保护. 中国宽带. 2024(10): 151-153 . 百度学术
    6. 王勇，熊毅，杨天宇，沈益冉. 一种面向耳戴式设备的用户安全连续认证方法. 计算机研究与发展. 2024(11): 2821-2834 . 本站查看
    7. 李森森，刘燕江，郁滨，李俊全. 边缘计算环境下基于PUF的多接收者匿名签密方案. 电子学报. 2024(12): 4087-4100 . 百度学术
    8. 陈珍珠，周纯毅，苏铓，高艳松，付安民. 面向机器学习的安全外包计算研究进展. 计算机研究与发展. 2023(07): 1450-1466 . 本站查看
    9. 杜瑞忠，纪丽娟，王子园. 物联网环境下基于云边协同的数据审计方案. 计算机应用研究. 2023(12): 3789-3794 . 百度学术
    10. 张鹏，孙崇高，段福凯. 边缘算法的隐私保护在配网故障诊断系统的应用研究. 电子元器件与信息技术. 2023(12): 194-197 . 百度学术
    11. 王晨，郑文英，王惟正，谭皓文. 边缘计算数据安全保护研究综述. 网络空间安全科学学报. 2023(02): 35-45 . 百度学术
    12. 骆滨. 云计算环境下地铁新型AFC系统研究. 现代城市轨道交通. 2022(01): 103-108 . 百度学术
    13. 莫慧凌，郑海峰，高敏，冯心欣. 基于联邦学习的多源异构数据融合算法. 计算机研究与发展. 2022(02): 478-487 . 本站查看
    14. 韩牟，杨晨，华蕾，刘帅，马世典. 面向移动边缘计算车联网中车辆假名管理方案. 计算机研究与发展. 2022(04): 781-795 . 本站查看
    15. 李晓伟，陈本辉，杨邓奇，伍高飞. 边缘计算环境下安全协议综述. 计算机研究与发展. 2022(04): 765-780 . 本站查看
    16. 王继锋，王国峰. 边缘计算模式下密文搜索与共享技术研究. 通信学报. 2022(04): 227-238 . 百度学术
    17. 李昌群，陈国龙. 移动边缘计算中一种有效的计算资源分配和偏分任务卸载算法. 宿州学院学报. 2022(06): 16-20+30 . 百度学术
    18. 陈晓杰，李斌，周清雷. RTL级可扩展高性能数据压缩方法实现. 电子学报. 2022(07): 1548-1557 . 百度学术
    19. 王海涛，邱悦. 云边端融合网络系统的安全性分析. 保密科学技术. 2022(03): 41-45 . 百度学术
    20. 曹依然，朱友文，贺星宇，张跃. 效用优化的本地差分隐私集合数据频率估计机制. 计算机研究与发展. 2022(10): 2261-2274 . 本站查看
    21. 应臣浩，夏福源，李颉，斯雪明，骆源. 区块链群智感知中基于隐私数据真值估计的激励机制. 计算机研究与发展. 2022(10): 2212-2232 . 本站查看
    22. 葛斌，吴彩，张天浩，沐李亭，夏晨星. 基于联邦学习的边缘计算隐私保护方法. 安徽理工大学学报(自然科学版). 2022(06): 79-86 . 百度学术
    23. 刘峰，杨杰，李志斌，齐佳音. 一种基于区块链的泛用型数据隐私保护的安全多方计算协议. 计算机研究与发展. 2021(02): 281-290 . 本站查看
    24. 孙丽楠，朱红绿，孙慧. 面向工业的5G组网方案研究. 电子技术应用. 2021(05): 5-10 . 百度学术
    25. 冯幸，钟其铿. 边缘算法的隐私保护应用研究. 中国新通信. 2021(14): 109-110 . 百度学术
    26. 刘伟，张涛. 移动边缘计算中基于视频内容协作分发的联合激励机制. 计算机应用研究. 2021(09): 2803-2810 . 百度学术
    27. 方晨，郭渊博，王一丰，胡永进，马佳利，张晗，胡阳阳. 基于区块链和联邦学习的边缘计算隐私保护方法. 通信学报. 2021(11): 28-40 . 百度学术
    28. 蒋凯元. 多方安全计算研究综述. 信息安全研究. 2021(12): 1161-1165 . 百度学术
    29. 李桐，周小明，任帅，徐剑. 轻量化移动边缘计算双向认证协议. 信息网络安全. 2021(11): 58-64 . 百度学术
    30. 周勇，翁锟源，程航，严娜招，黄芹健. 面向隐私保护的相似PDF文件外包自动合并方法. 福州大学学报(自然科学版). 2021(06): 732-738 . 百度学术

    其他类型引用(41)

    • 资源附件(0)
计量
  • 文章访问数:  2425
  • HTML全文浏览量:  12
  • PDF下载量:  1288
  • 被引次数: 71
出版历程
  • 发布日期:  2020-09-30

目录

摘要
HTML全文
    参考文献(0)
    相关文章
    施引文献(71)
    资源附件(0)

    /

    返回文章
    返回
    邮件订阅 RSS
    微信订阅号<br/>（实时资讯）

    微信订阅号
    （实时资讯）

    微信服务号<br/>（同步网站）

    微信服务号
    （同步网站）

    微信视频号<br/>（视频分享）

    微信视频号
    （视频分享）

    CCF<br/>（扫码入会）

    CCF
    （扫码入会）

    版权所有 © 《计算机研究与发展》编辑部

    本系统由北京仁和汇智信息技术有限公司开发  百度统计