• 中国精品科技期刊
  • CCF推荐A类中文期刊
  • 计算领域高质量科技期刊T1类
高级检索

分布式深度学习隐私与安全攻击研究进展与挑战

周纯毅, 陈大卫, 王尚, 付安民, 高艳松

周纯毅, 陈大卫, 王尚, 付安民, 高艳松. 分布式深度学习隐私与安全攻击研究进展与挑战[J]. 计算机研究与发展, 2021, 58(5): 927-943. DOI: 10.7544/issn1000-1239.2021.20200966
引用本文: 周纯毅, 陈大卫, 王尚, 付安民, 高艳松. 分布式深度学习隐私与安全攻击研究进展与挑战[J]. 计算机研究与发展, 2021, 58(5): 927-943. DOI: 10.7544/issn1000-1239.2021.20200966
shu
Zhou Chunyi, Chen Dawei, Wang Shang, Fu Anmin, Gao Yansong. Research and Challenge of Distributed Deep Learning Privacy and Security Attack[J]. Journal of Computer Research and Development, 2021, 58(5): 927-943. DOI: 10.7544/issn1000-1239.2021.20200966
Citation: Zhou Chunyi, Chen Dawei, Wang Shang, Fu Anmin, Gao Yansong. Research and Challenge of Distributed Deep Learning Privacy and Security Attack[J]. Journal of Computer Research and Development, 2021, 58(5): 927-943. DOI: 10.7544/issn1000-1239.2021.20200966
shu
周纯毅, 陈大卫, 王尚, 付安民, 高艳松. 分布式深度学习隐私与安全攻击研究进展与挑战[J]. 计算机研究与发展, 2021, 58(5): 927-943. CSTR: 32373.14.issn1000-1239.2021.20200966
引用本文: 周纯毅, 陈大卫, 王尚, 付安民, 高艳松. 分布式深度学习隐私与安全攻击研究进展与挑战[J]. 计算机研究与发展, 2021, 58(5): 927-943. CSTR: 32373.14.issn1000-1239.2021.20200966
shu
Zhou Chunyi, Chen Dawei, Wang Shang, Fu Anmin, Gao Yansong. Research and Challenge of Distributed Deep Learning Privacy and Security Attack[J]. Journal of Computer Research and Development, 2021, 58(5): 927-943. CSTR: 32373.14.issn1000-1239.2021.20200966
Citation: Zhou Chunyi, Chen Dawei, Wang Shang, Fu Anmin, Gao Yansong. Research and Challenge of Distributed Deep Learning Privacy and Security Attack[J]. Journal of Computer Research and Development, 2021, 58(5): 927-943. CSTR: 32373.14.issn1000-1239.2021.20200966
shu

分布式深度学习隐私与安全攻击研究进展与挑战

  • 1(南京理工大学计算机科学与工程学院 南京 210094)

  • 2(桂林电子科技大学广西可信软件重点实验室 广西桂林 541004) (zhouchunyi@njust.edu.cn)

基金项目: 国家自然科学基金项目(62072239,62002167)；广西可信软件重点实验室研究课题(KX202029)；中央高校基本科研业务费专项资金(30920021129)
详细信息

  • 中图分类号: TP391

Research and Challenge of Distributed Deep Learning Privacy and Security Attack

  • 1(School of Computer Science and Engineering, Nanjing University of Science & Technology, Nanjing 210094)

  • 2(Guangxi Key Laboratory of Trusted Software, Guilin University of Electronic Technology, Guilin, Guangxi 541004)

Funds: This work was supported by the National Natural Science Foundation of China (62072239, 62002167), the Guangxi Key Laboratory of Trusted Software (KX202029), and the Fundamental Research Funds for the Central Universities (30920021129).

摘要

    摘要
  • 摘要: 不同于集中式深度学习模式，分布式深度学习摆脱了模型训练过程中数据必须中心化的限制，实现了数据的本地操作，允许各方参与者在不交换数据的情况下进行协作，显著降低了用户隐私泄露风险，从技术层面可以打破数据孤岛，显著提升深度学习的效果，能够广泛应用于智慧医疗、智慧金融、智慧零售和智慧交通等领域.但生成对抗式网络攻击、成员推理攻击和后门攻击等典型攻击揭露了分布式深度学习依然存在严重隐私漏洞和安全威胁.首先对比分析了联合学习、联邦学习和分割学习3种主流的分布式深度学习模式特征及其存在的核心问题.其次，从隐私攻击角度，全面阐述了分布式深度学习所面临的各类隐私攻击，并归纳和分析了现有隐私攻击防御手段.同时，从安全攻击角度，深入剖析了数据投毒攻击、对抗样本攻击和后门攻击3种安全攻击方法的攻击过程和内在安全威胁，并从敌手能力、防御原理和防御效果等方面对现有安全攻击防御技术进行了度量.最后，从隐私与安全攻击角度，对分布式深度学习未来的研究方向进行了讨论和展望.
    Abstract: Different from the centralized deep learning mode, distributed deep learning gets rid of the limitation that the data must be centralized during the model training process, which realizes the local operation of the data, and allows all participants to collaborate without exchanging data. It significantly reduces the risk of user privacy leakage, breaks the data island from the technical level, and improves the efficiency of deep learning. Distributed deep learning can be widely used in smart medical care, smart finance, smart retail and smart transportation. However, typical attacks such as generative adversarial network attacks, membership inference attacks and backdoor attacks, have revealed that distributed deep learning still has serious privacy vulnerabilities and security threats. This paper first compares and analyzes the characteristics of the three distributed deep learning modes and their core problems, including collaborative learning, federated learning and split learning. Secondly, from the perspective of privacy attacks, it comprehensively expounds various types of privacy attacks faced by distributed deep learning, and summarizes the existing privacy attack defense methods. At the same time, from the perspective of security attacks, the paper analyzes the attack process and inherent security threats of the three security attacks: data poisoning attacks, adversarial sample attacks, and backdoor attacks, and analyzes the existing security attack defense technology from the perspectives of defense principles, adversary capabilities, and defense effects. Finally, from the perspective of privacy and security attacks, the future research directions of distributed deep learning are discussed and prospected.
    • HTML全文
    • 参考文献(0)
    • 相关文章
    • 施引文献(48)

  • 期刊类型引用(22)

    1. 刘炜，刘宇昭，唐琮轲，王媛媛，佘维，田钊. 基于区块链的联邦蒸馏数据共享模型研究. 计算机科学. 2024(03): 39-47 . 百度学术
    2. 张佳乐，朱诚诚，成翔，孙小兵，陈兵. 基于对比训练的联邦学习后门防御方法. 通信学报. 2024(03): 182-196 . 百度学术
    3. 李敏，肖迪，陈律君. 兼顾通信效率与效用的自适应高斯差分隐私个性化联邦学习. 计算机学报. 2024(04): 924-946 . 百度学术
    4. 许辰宏，于刘. 分布式深度学习框架下主动式网络安全性能感知系统设计. 电子设计工程. 2024(14): 169-173 . 百度学术
    5. 李荣昌，刘涛，郑海斌，陈晋音，刘振广，纪守领. 基于最大-最小策略的纵向联邦学习隐私保护方法. 自动化学报. 2024(07): 1373-1388 . 百度学术
    6. 康海燕，王骁识. 基于数据特征相关性和自适应差分隐私的深度学习方法研究. 电子学报. 2024(06): 1963-1976 . 百度学术
    7. 乐俊青，谭州勇 ，张迪 ，刘高 ，向涛 ，廖晓峰 . 面向车联网数据持续共享的安全高效联邦学习. 计算机研究与发展. 2024(09): 2199-2212 . 本站查看
    8. 宁宝玲，李文博，毕强. 支持隐私保护的自主无人系统分布式智能运维框架. 控制理论与应用. 2024(08): 1351-1360 . 百度学术
    9. 孙钰，熊高剑，刘潇，李燕. 基于可信执行环境的安全推理研究进展. 信息网络安全. 2024(12): 1799-1818 . 百度学术
    10. 王腾，霍峥，黄亚鑫，范艺琳. 联邦学习中的隐私保护技术研究综述. 计算机应用. 2023(02): 437-449 . 百度学术
    11. 林立鑫，杨真. 隐私信息泄露属性深度跟踪方法仿真. 计算机仿真. 2023(01): 428-432 . 百度学术
    12. 黄学臻，吴星禄，翟翟，吕由. 网络安全等级保护人工智能系统基本要求初探. 信息系统工程. 2023(01): 113-115 . 百度学术
    13. 陈珍珠，周纯毅，苏铓，高艳松，付安民. 面向机器学习的安全外包计算研究进展. 计算机研究与发展. 2023(07): 1450-1466 . 本站查看
    14. 古天龙，李龙，常亮，李晶晶. 公平联邦学习及其设计研究综述. 计算机学报. 2023(09): 1991-2024 . 百度学术
    15. 况博裕，李雨泽，顾芳铭，苏铓，付安民. 车联网安全研究综述：威胁、对策与未来展望. 计算机研究与发展. 2023(10): 2304-2321 . 本站查看
    16. 林铭俊，肖中举，肖慧，张鑫，洪永，陈超敏，郑东宏. 基于深度学习的心电信号生成技术研究. 现代仪器与医疗. 2023(05): 44-48 . 百度学术
    17. 唐林垚. 数据合规科技的风险规制及法理构建. 东方法学. 2022(01): 79-93 . 百度学术
    18. 黄涛，付安民，季宇凯，毛安，王占丰，胡超. 工控协议逆向分析技术研究与挑战. 计算机研究与发展. 2022(05): 1015-1034 . 本站查看
    19. 陈国明，袁泽铎，龙舜，麦舒桃. 一种基于格雷码置乱与分块混沌置乱的医学影像隐私保护分类方案. 数据采集与处理. 2022(05): 984-996 . 百度学术
    20. 朱梦圆，陈卓，刘鹏飞，吕娜. 基于雾计算的无线传感器网络联合入侵检测算法. 北京航空航天大学学报. 2022(10): 1943-1950 . 百度学术
    21. 王尚，李昕，宋永立，苏铓，付安民. 基于自定义后门的触发器样本检测方案. 信息安全学报. 2022(06): 48-61 . 百度学术
    22. 陈大卫，付安民，周纯毅，陈珍珠. 基于生成式对抗网络的联邦学习后门攻击方案. 计算机研究与发展. 2021(11): 2364-2373 . 本站查看

    其他类型引用(26)

    • 资源附件(0)
计量
  • 文章访问数:  1667
  • HTML全文浏览量:  16
  • PDF下载量:  1458
  • 被引次数: 48
出版历程
  • 发布日期:  2021-04-30

目录

摘要
HTML全文
    参考文献(0)
    相关文章
    施引文献(48)
    资源附件(0)

    /

    返回文章
    返回
    邮件订阅 RSS
    微信订阅号<br/>（实时资讯）

    微信订阅号
    （实时资讯）

    微信服务号<br/>（同步网站）

    微信服务号
    （同步网站）

    微信视频号<br/>（视频分享）

    微信视频号
    （视频分享）

    CCF<br/>（扫码入会）

    CCF
    （扫码入会）

    版权所有 © 《计算机研究与发展》编辑部

    本系统由北京仁和汇智信息技术有限公司开发  百度统计