• 中国精品科技期刊
  • CCF推荐A类中文期刊
  • 计算领域高质量科技期刊T1类
高级检索

分布式深度学习隐私与安全攻击研究进展与挑战

周纯毅, 陈大卫, 王尚, 付安民, 高艳松

周纯毅, 陈大卫, 王尚, 付安民, 高艳松. 分布式深度学习隐私与安全攻击研究进展与挑战[J]. 计算机研究与发展, 2021, 58(5): 927-943. DOI: 10.7544/issn1000-1239.2021.20200966
引用本文: 周纯毅, 陈大卫, 王尚, 付安民, 高艳松. 分布式深度学习隐私与安全攻击研究进展与挑战[J]. 计算机研究与发展, 2021, 58(5): 927-943. DOI: 10.7544/issn1000-1239.2021.20200966
shu
Zhou Chunyi, Chen Dawei, Wang Shang, Fu Anmin, Gao Yansong. Research and Challenge of Distributed Deep Learning Privacy and Security Attack[J]. Journal of Computer Research and Development, 2021, 58(5): 927-943. DOI: 10.7544/issn1000-1239.2021.20200966
Citation: Zhou Chunyi, Chen Dawei, Wang Shang, Fu Anmin, Gao Yansong. Research and Challenge of Distributed Deep Learning Privacy and Security Attack[J]. Journal of Computer Research and Development, 2021, 58(5): 927-943. DOI: 10.7544/issn1000-1239.2021.20200966
shu
周纯毅, 陈大卫, 王尚, 付安民, 高艳松. 分布式深度学习隐私与安全攻击研究进展与挑战[J]. 计算机研究与发展, 2021, 58(5): 927-943. CSTR: 32373.14.issn1000-1239.2021.20200966
引用本文: 周纯毅, 陈大卫, 王尚, 付安民, 高艳松. 分布式深度学习隐私与安全攻击研究进展与挑战[J]. 计算机研究与发展, 2021, 58(5): 927-943. CSTR: 32373.14.issn1000-1239.2021.20200966
shu
Zhou Chunyi, Chen Dawei, Wang Shang, Fu Anmin, Gao Yansong. Research and Challenge of Distributed Deep Learning Privacy and Security Attack[J]. Journal of Computer Research and Development, 2021, 58(5): 927-943. CSTR: 32373.14.issn1000-1239.2021.20200966
Citation: Zhou Chunyi, Chen Dawei, Wang Shang, Fu Anmin, Gao Yansong. Research and Challenge of Distributed Deep Learning Privacy and Security Attack[J]. Journal of Computer Research and Development, 2021, 58(5): 927-943. CSTR: 32373.14.issn1000-1239.2021.20200966
shu

分布式深度学习隐私与安全攻击研究进展与挑战

  • 1(南京理工大学计算机科学与工程学院 南京 210094)

  • 2(桂林电子科技大学广西可信软件重点实验室 广西桂林 541004) (zhouchunyi@njust.edu.cn)

基金项目: 国家自然科学基金项目(62072239,62002167)；广西可信软件重点实验室研究课题(KX202029)；中央高校基本科研业务费专项资金(30920021129)
详细信息

  • 中图分类号: TP391

Research and Challenge of Distributed Deep Learning Privacy and Security Attack

  • 1(School of Computer Science and Engineering, Nanjing University of Science & Technology, Nanjing 210094)

  • 2(Guangxi Key Laboratory of Trusted Software, Guilin University of Electronic Technology, Guilin, Guangxi 541004)

Funds: This work was supported by the National Natural Science Foundation of China (62072239, 62002167), the Guangxi Key Laboratory of Trusted Software (KX202029), and the Fundamental Research Funds for the Central Universities (30920021129).

摘要

    摘要
  • 摘要: 不同于集中式深度学习模式，分布式深度学习摆脱了模型训练过程中数据必须中心化的限制，实现了数据的本地操作，允许各方参与者在不交换数据的情况下进行协作，显著降低了用户隐私泄露风险，从技术层面可以打破数据孤岛，显著提升深度学习的效果，能够广泛应用于智慧医疗、智慧金融、智慧零售和智慧交通等领域.但生成对抗式网络攻击、成员推理攻击和后门攻击等典型攻击揭露了分布式深度学习依然存在严重隐私漏洞和安全威胁.首先对比分析了联合学习、联邦学习和分割学习3种主流的分布式深度学习模式特征及其存在的核心问题.其次，从隐私攻击角度，全面阐述了分布式深度学习所面临的各类隐私攻击，并归纳和分析了现有隐私攻击防御手段.同时，从安全攻击角度，深入剖析了数据投毒攻击、对抗样本攻击和后门攻击3种安全攻击方法的攻击过程和内在安全威胁，并从敌手能力、防御原理和防御效果等方面对现有安全攻击防御技术进行了度量.最后，从隐私与安全攻击角度，对分布式深度学习未来的研究方向进行了讨论和展望.
    Abstract: Different from the centralized deep learning mode, distributed deep learning gets rid of the limitation that the data must be centralized during the model training process, which realizes the local operation of the data, and allows all participants to collaborate without exchanging data. It significantly reduces the risk of user privacy leakage, breaks the data island from the technical level, and improves the efficiency of deep learning. Distributed deep learning can be widely used in smart medical care, smart finance, smart retail and smart transportation. However, typical attacks such as generative adversarial network attacks, membership inference attacks and backdoor attacks, have revealed that distributed deep learning still has serious privacy vulnerabilities and security threats. This paper first compares and analyzes the characteristics of the three distributed deep learning modes and their core problems, including collaborative learning, federated learning and split learning. Secondly, from the perspective of privacy attacks, it comprehensively expounds various types of privacy attacks faced by distributed deep learning, and summarizes the existing privacy attack defense methods. At the same time, from the perspective of security attacks, the paper analyzes the attack process and inherent security threats of the three security attacks: data poisoning attacks, adversarial sample attacks, and backdoor attacks, and analyzes the existing security attack defense technology from the perspectives of defense principles, adversary capabilities, and defense effects. Finally, from the perspective of privacy and security attacks, the future research directions of distributed deep learning are discussed and prospected.
    • HTML全文
    • 参考文献(0)
    • 相关文章
    • 施引文献(39)

  • 期刊类型引用(25)

    1. 吴仁彪，张振驰，贾云飞，乔晗. 云平台下基于截止时间的自适应调度策略. 计算机应用. 2023(01): 176-184 . 百度学术
    2. 邹文仲，邓力源，张高峰，王凌梓，章金峰. 基于调度云平台通用分布式架构实践. 南方电网技术. 2023(09): 20-28 . 百度学术
    3. 许源佳，吴恒，杨晨，吴悦文，张文博，王焘. 面向状态可变数据流的集群调度综述. 计算机学报. 2022(05): 973-992 . 百度学术
    4. 陈旭辉，刘洋，张鸿，高鹏，许竹霞. Linux大规模集群应用管理模型的研究及实现. 电子设计工程. 2022(10): 17-21+26 . 百度学术
    5. 谢志强，周伟，杨静. 考虑层级调度次序的资源协同综合调度算法. 计算机集成制造系统. 2022(11): 3391-3402 . 百度学术
    6. 刘刚. 城市智慧社区安防管理系统研究. 哈尔滨职业技术学院学报. 2022(06): 120-122 . 百度学术
    7. 毛安琪，汤小春，丁朝，李战怀. 集中式集群资源调度框架的可扩展性优化. 计算机研究与发展. 2021(03): 497-512 . 本站查看
    8. 陈吉宁. 基于动态增容的政务大数据资源调度优化系统设计. 自动化技术与应用. 2021(04): 58-61+72 . 百度学术
    9. 赵杉. 云平台安全监控大数据集群调度容错控制仿真. 计算机仿真. 2021(07): 486-490 . 百度学术
    10. 赵全，汤小春，朱紫钰，毛安琪，李战怀. 大规模短时间任务的低延迟集群调度框架. 计算机应用. 2021(08): 2396-2405 . 百度学术
    11. 鲁小艳. 基于集群计算的高校艺术专业理论教学与实践模式. 科技风. 2021(33): 129-132 . 百度学术
    12. 王晓霞，孙德才. 大数据处理中MapReduce框架的Q-sample算法设计. 现代计算机. 2021(36): 44-48 . 百度学术
    13. 崔校郡. 新时期大数据分析与应用关键技术研究. 信息技术与信息化. 2020(01): 204-206 . 百度学术
    14. 顾东虎. Hadoop云平台下基于P-WAP的大数据聚类挖掘算法. 长春师范大学学报. 2020(10): 29-35 . 百度学术
    15. 姜一，刘菁，姚嵘. 基于智能感知的电力多元数据集群热点处理研究. 电子设计工程. 2020(21): 20-23+28 . 百度学术
    16. 罗兰溪，柯行思，宋凯. 基于云平台的电力大数据变化趋势预测. 信息技术. 2020(11): 60-65 . 百度学术
    17. 孙卫红，吕文新. 区域集群下板材订单配置模型及算法研究. 运筹与管理. 2020(12): 38-42+50 . 百度学术
    18. 庞慧，刘丽娟，周丽莉. 有效网络大数据流多任务传输调度方法. 计算机仿真. 2020(12): 391-395 . 百度学术
    19. 朱晔，姜志博，田浩，陶汉涛，吴大伟，张磊，何君. 电网雷电大数据采集系统研发. 高压电器. 2019(04): 160-168 . 百度学术
    20. 刘甜. 大数据时代下计算机软件技术的应用探索. 计算机产品与流通. 2019(06): 20 . 百度学术
    21. 邵必林，王莎莎. 基于负载预测的HDFS动态负载均衡改进算法. 探测与控制学报. 2019(02): 75-80 . 百度学术
    22. 李维虎，张顶山，崔慧明，周龙，朱志挺，谢挺. 数据中心网络coflow调度机制结构构建及仿真. 电子测量技术. 2019(10): 78-81 . 百度学术
    23. 黄高攀，何金陵，庄岭，张利. 面向应用检测任务的负载均衡算法研究. 计算技术与自动化. 2019(01): 71-76 . 百度学术
    24. 郜广兰，徐晶晶，任刚，朱命冬，张超. 面向高校科研人员的高性能集群计算科研平台建设研究. 河南机电高等专科学校学报. 2019(03): 4-7 . 百度学术
    25. 陈湉，林勇. 大数据分析背景下地震后紧急物流资源调度模型设计. 地震工程学报. 2018(06): 1343-1349 . 百度学术

    其他类型引用(14)

    • 资源附件(0)
计量
  • 文章访问数:  1679
  • HTML全文浏览量:  16
  • PDF下载量:  1459
  • 被引次数: 39
出版历程
  • 发布日期:  2021-04-30

目录

摘要
HTML全文
    参考文献(0)
    相关文章
    施引文献(39)
    资源附件(0)

    /

    返回文章
    返回
    邮件订阅 RSS
    微信订阅号<br/>（实时资讯）

    微信订阅号
    （实时资讯）

    微信服务号<br/>（同步网站）

    微信服务号
    （同步网站）

    微信视频号<br/>（视频分享）

    微信视频号
    （视频分享）

    CCF<br/>（扫码入会）

    CCF
    （扫码入会）

    版权所有 © 《计算机研究与发展》编辑部

    本系统由北京仁和汇智信息技术有限公司开发  百度统计