• 中国精品科技期刊
  • CCF推荐A类中文期刊
  • 计算领域高质量科技期刊T1类
高级检索

基于秘密分享和梯度选择的高效安全联邦学习

董业, 侯炜, 陈小军, 曾帅

董业, 侯炜, 陈小军, 曾帅. 基于秘密分享和梯度选择的高效安全联邦学习[J]. 计算机研究与发展, 2020, 57(10): 2241-2250. DOI: 10.7544/issn1000-1239.2020.20200463
引用本文: 董业, 侯炜, 陈小军, 曾帅. 基于秘密分享和梯度选择的高效安全联邦学习[J]. 计算机研究与发展, 2020, 57(10): 2241-2250. DOI: 10.7544/issn1000-1239.2020.20200463
shu
Dong Ye, Hou Wei, Chen Xiaojun, Zeng Shuai. Efficient and Secure Federated Learning Based on Secret Sharing and Gradients Selection[J]. Journal of Computer Research and Development, 2020, 57(10): 2241-2250. DOI: 10.7544/issn1000-1239.2020.20200463
Citation: Dong Ye, Hou Wei, Chen Xiaojun, Zeng Shuai. Efficient and Secure Federated Learning Based on Secret Sharing and Gradients Selection[J]. Journal of Computer Research and Development, 2020, 57(10): 2241-2250. DOI: 10.7544/issn1000-1239.2020.20200463
shu
董业, 侯炜, 陈小军, 曾帅. 基于秘密分享和梯度选择的高效安全联邦学习[J]. 计算机研究与发展, 2020, 57(10): 2241-2250. CSTR: 32373.14.issn1000-1239.2020.20200463
引用本文: 董业, 侯炜, 陈小军, 曾帅. 基于秘密分享和梯度选择的高效安全联邦学习[J]. 计算机研究与发展, 2020, 57(10): 2241-2250. CSTR: 32373.14.issn1000-1239.2020.20200463
shu
Dong Ye, Hou Wei, Chen Xiaojun, Zeng Shuai. Efficient and Secure Federated Learning Based on Secret Sharing and Gradients Selection[J]. Journal of Computer Research and Development, 2020, 57(10): 2241-2250. CSTR: 32373.14.issn1000-1239.2020.20200463
Citation: Dong Ye, Hou Wei, Chen Xiaojun, Zeng Shuai. Efficient and Secure Federated Learning Based on Secret Sharing and Gradients Selection[J]. Journal of Computer Research and Development, 2020, 57(10): 2241-2250. CSTR: 32373.14.issn1000-1239.2020.20200463
shu

基于秘密分享和梯度选择的高效安全联邦学习

  • 1(中国科学院信息工程研究所 北京 100195)

  • 2(中国科学院大学网络空间安全学院 北京 101408) (dongye@iie.ac.cn)

详细信息

  • 中图分类号: TP391; TP181

Efficient and Secure Federated Learning Based on Secret Sharing and Gradients Selection

  • 1(Institute of Information Engineering, Chinese Academy of Sciences, Beijing 100195)

  • 2(School of Cyber Security, University of Chinese Academy of Sciences, Beijing 101408)

摘要

    摘要
  • 摘要: 近年来，联邦学习已经成为一种新兴的协作式机器学习方法.在联邦学习中，分布式用户可以仅通过共享梯度来训练各种模型.但是一些研究表明梯度也会泄露用户的隐私信息，而安全多方计算被认为是一种保护隐私安全的有效工具.另一方面，一些研究人员提出了Top-K梯度选择算法，以减少用户之间同步梯度的通信开销.但是，目前很少有工作可以平衡这2个领域的优势.将秘密共享与Top-K梯度选择相结合，设计了高效且安全的联邦学习协议，以便在保证用户隐私和数据安全的同时，减少通信开销，并提高模型训练效率.此外，提出了一种高效的方法来构造消息验证码，以验证服务器返回的聚合结果的有效性，其中，验证码引入的通信开销与梯度的数量无关.实验结果表明：相比于同样条件下的明文训练，该文的安全技术在通信和计算方面都会引入少量额外的开销，但该方案取得了和明文训练同一水平的模型准确率.
    Abstract: In recent years, federated learning (FL) has been an emerging collaborative machine learning method where distributed users can train various models by only sharing gradients. To prevent privacy leakages from gradients, secure multi-party computation (MPC) has been considered as a promising guarantee recently. Meanwhile, some researchers proposed the Top-K gradients selection algorithm to reduce the traffic for synchronizing gradients among distributed users. However, there are few works that can balance the advantages of the two areas at present. We combine secret sharing with Top-K gradients selection to design efficient and secure federated learning protocols, so that we can cut down the communication overheads and improve the efficiency during the training phase while guaranteeing the users privacy and data security. Also, we propose an efficient method to construct message authentication code (MAC) to verify the validity of the aggregated results from the servers. And the communication overheads introduced by the MAC is small and independent of the number of shared gradients. Besides, we implement a prototype system. Compared with the plaintext training, on the one hand, our secure techniques introduce small additional overheads in communication and computation; On the other hand, we achieve the same level of accuracy as the plaintext training.
    • HTML全文
    • 参考文献(0)
    • 相关文章
    • 施引文献(40)

  • 期刊类型引用(20)

    1. 沈传年. 区块链安全问题研究综述. 计算机工程与科学. 2024(01): 46-62 . 百度学术
    2. 张烁晨. 量子纠缠及其应用研究. 电子技术. 2024(03): 4-7 . 百度学术
    3. 徐小桐，石润华，柯唯阳，于辉. 无中心的量子匿名一票否决方案. 量子电子学报. 2024(06): 901-913 . 百度学术
    4. 许龙，沈晶晶. 中美量子计算领域专利对比分析及发展预测. 中国发明与专利. 2024(12): 54-62 . 百度学术
    5. 张舒琪，李延斌，王蓬勃，葛春鹏，徐秋亮. 抗侧信道攻击的后量子密码掩码转换方案. 网络空间安全科学学报. 2024(05): 44-56 . 百度学术
    6. 蓝兰鸿，潘明华，王一涵，周家毓. 基于B92量子密钥分发的图像加密系统设计. 信息技术与信息化. 2023(01): 17-20 . 百度学术
    7. 李延斌，朱嘉杰，唐明，张焕国. 面向格密码的能耗分析攻击技术. 计算机学报. 2023(02): 331-352 . 百度学术
    8. 董慧康，裴东芳. 考虑无线网络安全的量子密码更新算法仿真. 计算机仿真. 2023(02): 399-402+491 . 百度学术
    9. 万华，周虎，朱德新，孙羽. 一种基于量子密钥的区块链身份认证方法. 软件工程. 2023(04): 38-41 . 百度学术
    10. 杨占杰. 核电DCS系统信息安全防护的探讨. 核科学与工程. 2023(04): 854-860 . 百度学术
    11. 王鹏，武俊鹏，高迪. 基于FPGA的Streamlined NTRU Prime抗量子加密技术研究. 无线电工程. 2022(03): 393-398 . 百度学术
    12. 李非凡. 后量子密码技术研究热点可视化分析. 河南理工大学学报(自然科学版). 2022(05): 137-145 . 百度学术
    13. 牛佳宁，赵子岩，李国春，赵永利. 新型电力系统配网运行场景下的量子密码技术应用体系架构. 电力信息与通信技术. 2022(11): 65-73 . 百度学术
    14. 刘峰，杨杰，李志斌，齐佳音. 一种基于区块链的泛用型数据隐私保护的安全多方计算协议. 计算机研究与发展. 2021(02): 281-290 . 本站查看
    15. 李萌，尚云. 两硬币量子游走模型中的相干动力学. 计算机研究与发展. 2021(09): 1897-1905 . 本站查看
    16. 潘世杰，高飞，万林春，秦素娟，温巧燕. 量子谱回归算法. 计算机研究与发展. 2021(09): 1835-1842 . 本站查看
    17. 孙玉明. 外加谐振电压时电容器的电容和电感. 烟台大学学报(自然科学与工程版). 2021(04): 386-391 . 百度学术
    18. 张中亚，吴文玲，邹剑. 多轮EM结构的量子差分碰撞密钥恢复攻击. 计算机研究与发展. 2021(12): 2811-2818 . 本站查看
    19. 冷新丽，韩跃军，李辉. 大学文科生物理科学素养现状调查及分析——以江西南昌市为例. 科教导刊. 2021(32): 155-158 . 百度学术
    20. WANG Yahui，ZHANG Huanguo. Quantum Algorithm for Attacking RSA Based on Fourier Transform and Fixed-Point. Wuhan University Journal of Natural Sciences. 2021(06): 489-494 . 必应学术

    其他类型引用(20)

    • 资源附件(0)
计量
  • 文章访问数:  2424
  • HTML全文浏览量:  12
  • PDF下载量:  1288
  • 被引次数: 40
出版历程
  • 发布日期:  2020-09-30

目录

摘要
HTML全文
    参考文献(0)
    相关文章
    施引文献(40)
    资源附件(0)

    /

    返回文章
    返回
    邮件订阅 RSS
    微信订阅号<br/>（实时资讯）

    微信订阅号
    （实时资讯）

    微信服务号<br/>（同步网站）

    微信服务号
    （同步网站）

    微信视频号<br/>（视频分享）

    微信视频号
    （视频分享）

    CCF<br/>（扫码入会）

    CCF
    （扫码入会）

    版权所有 © 《计算机研究与发展》编辑部

    本系统由北京仁和汇智信息技术有限公司开发  百度统计