• 中国精品科技期刊
  • CCF推荐A类中文期刊
  • 计算领域高质量科技期刊T1类
高级检索

基于矩阵映射的拜占庭鲁棒联邦学习算法

刘飚, 张方佼, 王文鑫, 谢康, 张健毅

刘飚, 张方佼, 王文鑫, 谢康, 张健毅. 基于矩阵映射的拜占庭鲁棒联邦学习算法[J]. 计算机研究与发展, 2021, 58(11): 2416-2429. DOI: 10.7544/issn1000-1239.2021.20210633
引用本文: 刘飚, 张方佼, 王文鑫, 谢康, 张健毅. 基于矩阵映射的拜占庭鲁棒联邦学习算法[J]. 计算机研究与发展, 2021, 58(11): 2416-2429. DOI: 10.7544/issn1000-1239.2021.20210633
shu
Liu Biao, Zhang Fangjiao, Wang Wenxin, Xie Kang, Zhang Jianyi. A Byzantine-Robust Federated Learning Algorithm Based on Matrix Mapping[J]. Journal of Computer Research and Development, 2021, 58(11): 2416-2429. DOI: 10.7544/issn1000-1239.2021.20210633
Citation: Liu Biao, Zhang Fangjiao, Wang Wenxin, Xie Kang, Zhang Jianyi. A Byzantine-Robust Federated Learning Algorithm Based on Matrix Mapping[J]. Journal of Computer Research and Development, 2021, 58(11): 2416-2429. DOI: 10.7544/issn1000-1239.2021.20210633
shu
刘飚, 张方佼, 王文鑫, 谢康, 张健毅. 基于矩阵映射的拜占庭鲁棒联邦学习算法[J]. 计算机研究与发展, 2021, 58(11): 2416-2429. CSTR: 32373.14.issn1000-1239.2021.20210633
引用本文: 刘飚, 张方佼, 王文鑫, 谢康, 张健毅. 基于矩阵映射的拜占庭鲁棒联邦学习算法[J]. 计算机研究与发展, 2021, 58(11): 2416-2429. CSTR: 32373.14.issn1000-1239.2021.20210633
shu
Liu Biao, Zhang Fangjiao, Wang Wenxin, Xie Kang, Zhang Jianyi. A Byzantine-Robust Federated Learning Algorithm Based on Matrix Mapping[J]. Journal of Computer Research and Development, 2021, 58(11): 2416-2429. CSTR: 32373.14.issn1000-1239.2021.20210633
Citation: Liu Biao, Zhang Fangjiao, Wang Wenxin, Xie Kang, Zhang Jianyi. A Byzantine-Robust Federated Learning Algorithm Based on Matrix Mapping[J]. Journal of Computer Research and Development, 2021, 58(11): 2416-2429. CSTR: 32373.14.issn1000-1239.2021.20210633
shu

基于矩阵映射的拜占庭鲁棒联邦学习算法

  • 1(北京电子科技学院 北京 100070)

  • 2(信息网络安全公安部重点实验室(公安部第三研究所) 上海 200031)

  • 3(中国科学院网络测评技术重点实验室(中国科学院信息工程研究所) 北京 100093) (liubiao@besti.edu.cn)

基金项目: 国家重点研发计划项目(2018YFB1004100)；信息网络安全公安部重点实验室(公安部第三研究所)开放基金资助课题(C18612)；中国科学院网络测评技术重点实验室(中国科学院信息工程研究所)项目(KFKT2019-004)
详细信息

  • 中图分类号: TP391; TP309.2

A Byzantine-Robust Federated Learning Algorithm Based on Matrix Mapping

  • 1(Beijing Electronic Science and Technology Institute, Beijing 100070)

  • 2(Key Lab of Information Network Security of Ministry of Public Security (The Third Research Institute of Ministry of Public Security), Shanghai 200031)

  • 3(CAS Key Laboratory of Network Assessment Technology (Institute of Information Engineering, Chinese Academy of Sciences), Beijing 100093)

Funds: This work was supported by the National Key Research and Development Program of China (2018YFB1004100), the Opening Project of Key Lab of Information Network Security of Ministry of Public Security (The Third Research Institute of Ministry of Public Security) (C18612), and the Project of CAS Key Laboratory of Network Assessment Technology (Institute of Information Engineering, Chinese Academy of Sciences) (KFKT2019-004).

摘要

    摘要
  • 摘要: 联邦学习(federated learning)由于参数服务器端只收集客户端模型而不接触客户端本地数据，从而更好地保护数据隐私.然而其基础聚合算法FedAvg容易受到拜占庭客户端攻击.针对此问题，很多研究提出了不同聚合算法，但这些聚合算法存在防守能力不足、模型假设不贴合实际等问题.因此，提出一种新型的拜占庭鲁棒聚合算法.与现有聚合算法不同，该算法侧重于检测Softmax层的概率分布.具体地，参数服务器在收集客户端模型之后，通过构造的矩阵去映射模型的更新部分来获取此模型的Softmax层概率分布，排除分布异常的客户端模型.实验结果表明：在不降低FedAvg精度的前提下，在阻碍收敛攻击中，将拜占庭容忍率从40%提高到45%，在后门攻击中实现对边缘后门攻击的防守.此外，根据目前最先进的自适应攻击框架，设计出专门针对该聚合算法的自适应攻击，并进行了实验评估，实验结果显示，该聚合算法可以防御至少30%的拜占庭客户端.
    Abstract: Federated learning can better protect data privacy because the parameter server only collects the client model and does not touch the local data of the client. However, its basic aggregation algorithm FedAvg is vulnerable to Byzantine client attacks. In response to this problem, many studies have proposed different aggregation algorithms, but these aggregation algorithms have insufficient defensive capabilities, and the model assumptions do not fit the reality. Therefore, we propose a new type of Byzantine robust aggregation algorithm. Different from the existing aggregation algorithms, our algorithm focuses on detecting the probability distribution of the Softmax layer. Specifically, after collecting the client model, the parameter server obtains the Softmax layer probability distribution of the model through the generated matrix to map the updated part of the model, and eliminates the client model with abnormal distribution. The experimental results show that without reducing the accuracy of FedAvg, the Byzantine tolerance rate is increased from 40% to 45% in convergence prevention attacks, and the defense against edge-case backdoor attacks is realized in backdoor attacks. In addition, according to the current state-of-the-art adaptive attack framework, an adaptive attack is designed specifically for our algorithm, and experimental evaluations have been carried out. The experimental results show that our aggregation algorithm can defend at least 30% of Byzantine clients.
    • HTML全文
    • 参考文献(0)
    • 相关文章
    • 施引文献(24)

  • 期刊类型引用(12)

    1. 李晓静，杨秀杰. 云计算环境下多模态异构网络数据安全存储方法. 现代电子技术. 2025(06): 63-67 . 百度学术
    2. 李林，左天才，杜泽新，谢志奇. 基于LSM树的在线监测数据安全存储系统设计. 电子设计工程. 2024(07): 63-67 . 百度学术
    3. 闫丽飞，褚宇宁，赵维伟，何壮壮，刘晓强. 大规模非结构化数据资源快速存储方法研究. 集成电路与嵌入式系统. 2024(04): 77-81 . 百度学术
    4. 何博宇，潘洪志. 大数据环境下位置轨迹安全存储系统研究与实现. 电脑知识与技术. 2024(10): 77-80 . 百度学术
    5. 巢成，蒲非凡，许建秋，高云君. 基于空间位置关系的轨迹数据高效降维和查询算法. 计算机研究与发展. 2024(07): 1771-1790 . 本站查看
    6. 王芳，王建民，邵芬红. 多信道无线通信网络动态数据完整性存储仿真. 计算机仿真. 2024(07): 451-455 . 百度学术
    7. 张铠，黄晋，汪希. 基于区块链技术的网络信息安全访问控制方法. 信息技术与信息化. 2024(09): 197-200 . 百度学术
    8. 马明扬，杨洪勇，刘飞. 基于强化学习的双人博弈差分隐私保护研究. 复杂系统与复杂性科学. 2024(04): 107-114 . 百度学术
    9. 李玉光，郗海龙. 物联网异构数据库分层访问算法仿真. 计算机仿真. 2023(03): 490-493+498 . 百度学术
    10. 吕舰. 基于国密算法的网络通信传输数据安全存储方法. 长江信息通信. 2023(04): 171-174 . 百度学术
    11. 王辉，陈宇，申自浩，刘沛骞. 结合对比监督和排序树的轨迹数据差分隐私保护方案. 计算机工程与科学. 2023(10): 1797-1805 . 百度学术
    12. 王爱兵. 基于区块链的社区矫正系统数据分布式安全存储方法. 电脑知识与技术. 2023(28): 63-65 . 百度学术

    其他类型引用(12)

    • 资源附件(0)
计量
  • 文章访问数:  617
  • HTML全文浏览量:  3
  • PDF下载量:  543
  • 被引次数: 24
出版历程
  • 发布日期:  2021-10-31

目录

摘要
HTML全文
    参考文献(0)
    相关文章
    施引文献(24)
    资源附件(0)

    /

    返回文章
    返回
    邮件订阅 RSS
    微信订阅号<br/>（实时资讯）

    微信订阅号
    （实时资讯）

    微信服务号<br/>（同步网站）

    微信服务号
    （同步网站）

    微信视频号<br/>（视频分享）

    微信视频号
    （视频分享）

    CCF<br/>（扫码入会）

    CCF
    （扫码入会）

    版权所有 © 《计算机研究与发展》编辑部

    本系统由北京仁和汇智信息技术有限公司开发  百度统计