• 中国精品科技期刊
  • CCF推荐A类中文期刊
  • 计算领域高质量科技期刊T1类
高级检索

机器学习的安全问题及隐私保护

魏立斐, 陈聪聪, 张蕾, 李梦思, 陈玉娇, 王勤

魏立斐, 陈聪聪, 张蕾, 李梦思, 陈玉娇, 王勤. 机器学习的安全问题及隐私保护[J]. 计算机研究与发展, 2020, 57(10): 2066-2085. DOI: 10.7544/issn1000-1239.2020.20200426
引用本文: 魏立斐, 陈聪聪, 张蕾, 李梦思, 陈玉娇, 王勤. 机器学习的安全问题及隐私保护[J]. 计算机研究与发展, 2020, 57(10): 2066-2085. DOI: 10.7544/issn1000-1239.2020.20200426
shu
Wei Lifei, Chen Congcong, Zhang Lei, Li Mengsi, Chen Yujiao, Wang Qin. Security Issues and Privacy Preserving in Machine Learning[J]. Journal of Computer Research and Development, 2020, 57(10): 2066-2085. DOI: 10.7544/issn1000-1239.2020.20200426
Citation: Wei Lifei, Chen Congcong, Zhang Lei, Li Mengsi, Chen Yujiao, Wang Qin. Security Issues and Privacy Preserving in Machine Learning[J]. Journal of Computer Research and Development, 2020, 57(10): 2066-2085. DOI: 10.7544/issn1000-1239.2020.20200426
shu
魏立斐, 陈聪聪, 张蕾, 李梦思, 陈玉娇, 王勤. 机器学习的安全问题及隐私保护[J]. 计算机研究与发展, 2020, 57(10): 2066-2085. CSTR: 32373.14.issn1000-1239.2020.20200426
引用本文: 魏立斐, 陈聪聪, 张蕾, 李梦思, 陈玉娇, 王勤. 机器学习的安全问题及隐私保护[J]. 计算机研究与发展, 2020, 57(10): 2066-2085. CSTR: 32373.14.issn1000-1239.2020.20200426
shu
Wei Lifei, Chen Congcong, Zhang Lei, Li Mengsi, Chen Yujiao, Wang Qin. Security Issues and Privacy Preserving in Machine Learning[J]. Journal of Computer Research and Development, 2020, 57(10): 2066-2085. CSTR: 32373.14.issn1000-1239.2020.20200426
Citation: Wei Lifei, Chen Congcong, Zhang Lei, Li Mengsi, Chen Yujiao, Wang Qin. Security Issues and Privacy Preserving in Machine Learning[J]. Journal of Computer Research and Development, 2020, 57(10): 2066-2085. CSTR: 32373.14.issn1000-1239.2020.20200426
shu

机器学习的安全问题及隐私保护

  • (上海海洋大学信息学院 上海 201306) (Lfwei@shou.edu.cn)

基金项目: 国家自然科学基金项目(61972241,61802248,61672339)；上海市自然科学基金项目(18ZR1417300)；上海海洋大学骆肇荛科技创新基金项目(A1-2004-20-201312)
详细信息

  • 中图分类号: TP309

Security Issues and Privacy Preserving in Machine Learning

  • (College of Information Technology, Shanghai Ocean University, Shanghai 201306)

Funds: This work was supported by the National Natural Science Foundation of China (61972241, 61802248, 61672339), the Natural Science Foundation of Shanghai (18ZR1417300), and the Luo Zhaorao Science and Technology Innovation Fund of Shanghai Ocean University (A1-2004-20-201312).

摘要

    摘要
  • 摘要: 近年来，机器学习迅速地发展，给人们带来便利的同时，也带来极大的安全隐患.机器学习的安全与隐私问题已经成为其发展的绊脚石.机器学习模型的训练和预测均是基于大量的数据，而数据中可能包含敏感或隐私信息，随着数据安全与隐私泄露事件频发、泄露规模连年加剧，如何保证数据的安全与隐私引发科学界和工业界的广泛关注.首先，介绍了机器学习隐私保护中的敌手模型的概念;其次总结机器学习在训练和预测阶段常见的安全及隐私威胁，如训练数据的隐私泄露、投毒攻击、对抗攻击、隐私攻击等.随后介绍了常见的安全防御方法和隐私保护方法，重点介绍了同态加密技术、安全多方计算技术、差分隐私技术等，并比较了典型的方案及3种技术的适用场景.最后，展望机器学习隐私保护的未来发展趋势和研究方向.
    Abstract: In recent years, machine learning has developed rapidly, and it is widely used in the aspects of work and life, which brings not only convenience but also great security risks. The security and privacy issues have become a stumbling block in the development of machine learning. The training and inference of the machine learning model are based on a large amount of data, which always contains some sensitive information. With the frequent occurrence of data privacy leakage events and the aggravation of the leakage scale annually, how to make sure the security and privacy of data has attracted the attention of the researchers from academy and industry. In this paper we introduce some fundamental concepts such as the adversary model in the privacy preserving of machine learning and summarize the common security threats and privacy threats in the training and inference phase of machine learning, such as privacy leakage of training data, poisoning attack, adversarial attack, privacy attack, etc. Subsequently, we introduce the common security protecting and privacy preserving methods, especially focusing on homomorphic encryption, secure multi-party computation, differential privacy, etc. and compare the typical schemes and applicable scenarios of the three technologies. At the end, the future development trend and research direction of machine learning privacy preserving are prospected.
    • HTML全文
    • 参考文献(0)
    • 相关文章
    • 施引文献(68)

  • 期刊类型引用(26)

    1. 戴军. 机器学习技术在乳制品领域的应用研究进展. 中国奶牛. 2025(03): 36-42 . 百度学术
    2. 汤殿华，曹云飞，黄云帆，李枫. 基于CKKS同态加密的纵向联邦逻辑回归训练方案. 通信技术. 2024(11): 1173-1180 . 百度学术
    3. 逯绍锋，胡玉龙，逯跃锋. 保护隐私的集合相似性度量协同计算协议. 计算机技术与发展. 2023(01): 137-143 . 百度学术
    4. 邓依婷，徐曦，王喆. MEC下工业AGV的任务卸载策略研究与分析. 信息技术. 2023(01): 27-30+36 . 百度学术
    5. 张宇衡，李德权，李苏木. 基于条件梯度的Adam分布式在线优化算法. 安庆师范大学学报(自然科学版). 2023(02): 80-86 . 百度学术
    6. 韩伟力，宋鲁杉，阮雯强，林国鹏，汪哲轩. 安全多方学习:从安全计算到安全学习. 计算机学报. 2023(07): 1494-1512 . 百度学术
    7. 吴炜霞，向红权，石凯. 智能无人系统安全防御体系研究. 信息安全与通信保密. 2023(05): 81-87 . 百度学术
    8. 程雪婷，王玮茹，暴悦爽，薄利明. 基于联邦学习的多源异构数据安全融合方法. 通信技术. 2023(10): 1173-1183 . 百度学术
    9. 吴琼，杨宝晨，郭娜，徐红芹，杨卫华. 人工智能大数据时代医学数据保护的思考. 人工智能. 2022(01): 54-61 . 百度学术
    10. 曹来成，吴琪瑞，吴蓉，郭显. 高效抗合谋攻击分布式机器学习隐私保护方案. 华中科技大学学报(自然科学版). 2022(05): 39-45 . 百度学术
    11. 龚成清，何文华. 面向校园人脸识别的数据投毒攻击检测算法研究. 菏泽学院学报. 2022(02): 15-20 . 百度学术
    12. 宁晗阳，马苗，杨波，刘士昌. 密码学智能化研究进展与分析. 计算机科学. 2022(09): 288-296 . 百度学术
    13. 陈钿，曾祥卫，孙志刚，钱天翼，伍健荣. 人工智能医疗器械软件网络安全技术考量. 中国医疗器械信息. 2022(15): 5-7 . 百度学术
    14. 岑鹏，郑德生，陆超. 基于差分隐私的航空发动机喘振故障检测. 燃气涡轮试验与研究. 2022(01): 48-51 . 百度学术
    15. 刘广睿，张伟哲，李欣洁. 基于边缘样本的智能网络入侵检测系统数据污染防御方法. 计算机研究与发展. 2022(10): 2348-2361 . 本站查看
    16. 曹依然，朱友文，贺星宇，张跃. 效用优化的本地差分隐私集合数据频率估计机制. 计算机研究与发展. 2022(10): 2261-2274 . 本站查看
    17. 刘梦君，蒋新宇，石斯瑾，江南，吴笛. 人工智能教育融合安全警示:来自机器学习算法功能的原生风险分析. 江南大学学报(人文社会科学版). 2022(05): 89-101 . 百度学术
    18. 周炜，王超，徐剑，胡克勇，王金龙. 基于区块链的隐私保护去中心化联邦学习模型. 计算机研究与发展. 2022(11): 2423-2436 . 本站查看
    19. 顾永跟，钟浩天，吴小红，陶杰，张艳琼. 不平衡数据下预算限制的联邦学习激励机制. 计算机应用研究. 2022(11): 3385-3389 . 百度学术
    20. 宋法根，刘佳. 基于极坐标的位置差分隐私保护方法. 电脑知识与技术. 2021(09): 54-55 . 百度学术
    21. 钱亚冠，何念念，郭艳凯，王滨，李晖，顾钊铨，张旭鸿，吴春明. 针对深度神经网络模型指纹检测的逃避算法. 计算机研究与发展. 2021(05): 1106-1117 . 本站查看
    22. 李凤英，朱敬东，龙紫阳. 在线学习者隐私的人本论研究. 中国电化教育. 2021(07): 107-113 . 百度学术
    23. 李炜，严川，盛庆博，王建平，王晓东，谭嘉. 大数据背景下智能配电网运营管理方法研究. 华电技术. 2021(08): 33-40 . 百度学术
    24. 郭棉，张锦友. 移动边缘计算环境中面向机器学习的计算迁移策略. 计算机应用. 2021(09): 2639-2645 . 百度学术
    25. 范敏，杨庚. 面向隐私保护的关联规则挖掘算法. 信息安全研究. 2021(11): 1007-1016 . 百度学术
    26. 张小英. 基于机器学习的数字图书资源脱敏访问系统设计. 微型电脑应用. 2021(12): 63-67 . 百度学术

    其他类型引用(42)

    • 资源附件(0)
计量
  • 文章访问数:  3652
  • HTML全文浏览量:  15
  • PDF下载量:  2228
  • 被引次数: 68
出版历程
  • 发布日期:  2020-09-30

目录

摘要
HTML全文
    参考文献(0)
    相关文章
    施引文献(68)
    资源附件(0)

    /

    返回文章
    返回
    邮件订阅 RSS
    微信订阅号<br/>（实时资讯）

    微信订阅号
    （实时资讯）

    微信服务号<br/>（同步网站）

    微信服务号
    （同步网站）

    微信视频号<br/>（视频分享）

    微信视频号
    （视频分享）

    CCF<br/>（扫码入会）

    CCF
    （扫码入会）

    版权所有 © 《计算机研究与发展》编辑部

    本系统由北京仁和汇智信息技术有限公司开发  百度统计