• 中国精品科技期刊
  • CCF推荐A类中文期刊
  • 计算领域高质量科技期刊T1类
高级检索

基于生成式对抗网络的联邦学习后门攻击方案

陈大卫, 付安民, 周纯毅, 陈珍珠

陈大卫, 付安民, 周纯毅, 陈珍珠. 基于生成式对抗网络的联邦学习后门攻击方案[J]. 计算机研究与发展, 2021, 58(11): 2364-2373. DOI: 10.7544/issn1000-1239.2021.20210659
引用本文: 陈大卫, 付安民, 周纯毅, 陈珍珠. 基于生成式对抗网络的联邦学习后门攻击方案[J]. 计算机研究与发展, 2021, 58(11): 2364-2373. DOI: 10.7544/issn1000-1239.2021.20210659
shu
Chen Dawei, Fu Anmin, Zhou Chunyi, Chen Zhenzhu. Federated Learning Backdoor Attack Scheme Based on Generative Adversarial Network[J]. Journal of Computer Research and Development, 2021, 58(11): 2364-2373. DOI: 10.7544/issn1000-1239.2021.20210659
Citation: Chen Dawei, Fu Anmin, Zhou Chunyi, Chen Zhenzhu. Federated Learning Backdoor Attack Scheme Based on Generative Adversarial Network[J]. Journal of Computer Research and Development, 2021, 58(11): 2364-2373. DOI: 10.7544/issn1000-1239.2021.20210659
shu
陈大卫, 付安民, 周纯毅, 陈珍珠. 基于生成式对抗网络的联邦学习后门攻击方案[J]. 计算机研究与发展, 2021, 58(11): 2364-2373. CSTR: 32373.14.issn1000-1239.2021.20210659
引用本文: 陈大卫, 付安民, 周纯毅, 陈珍珠. 基于生成式对抗网络的联邦学习后门攻击方案[J]. 计算机研究与发展, 2021, 58(11): 2364-2373. CSTR: 32373.14.issn1000-1239.2021.20210659
shu
Chen Dawei, Fu Anmin, Zhou Chunyi, Chen Zhenzhu. Federated Learning Backdoor Attack Scheme Based on Generative Adversarial Network[J]. Journal of Computer Research and Development, 2021, 58(11): 2364-2373. CSTR: 32373.14.issn1000-1239.2021.20210659
Citation: Chen Dawei, Fu Anmin, Zhou Chunyi, Chen Zhenzhu. Federated Learning Backdoor Attack Scheme Based on Generative Adversarial Network[J]. Journal of Computer Research and Development, 2021, 58(11): 2364-2373. CSTR: 32373.14.issn1000-1239.2021.20210659
shu

基于生成式对抗网络的联邦学习后门攻击方案

  • 1(南京理工大学计算机科学与工程学院 南京 210094)

  • 2(信息安全国家重点实验室(中国科学院信息工程研究所) 北京 100093) (894346698@qq.com)

基金项目: 国家自然科学基金项目(62072239)；信息安全国家重点实验室开放基金项目(2021-MS-07)；中央高校基本科研业务费专项资金(30920021129，30921013111)
详细信息

  • 中图分类号: TP391

Federated Learning Backdoor Attack Scheme Based on Generative Adversarial Network

  • 1(School of Computer Science and Engineering, Nanjing University of Science & Technology, Nanjing 210094)

  • 2(State Key Laboratory of Information Security (Institute of Information Engineering, Chinese Academy of Sciences), Beijing 100093)

Funds: This work was supported by the National Natural Science Foundation of China (62072239), the Open Foundation of the State Key Laboratory of Information Security of China (2021-MS-07), and the Fundamental Research Funds for the Central Universities (30920021129, 30921013111).

HTML全文

    摘要
  • 摘要: 联邦学习使用户在数据不出本地的情形下参与协作式的模型训练，降低了用户数据隐私泄露风险，广泛地应用于智慧金融、智慧医疗等领域.但联邦学习对后门攻击表现出固有的脆弱性，攻击者通过上传模型参数植入后门，一旦全局模型识别带有触发器的输入时，会按照攻击者指定的标签进行误分类.因此针对联邦学习提出了一种新型后门攻击方案Bac_GAN，通过结合生成式对抗网络技术将触发器以水印的形式植入干净样本，降低了触发器特征与干净样本特征之间的差异，提升了触发器的隐蔽性，并通过缩放后门模型，避免了参数聚合过程中后门贡献被抵消的问题，使得后门模型在短时间内达到收敛，从而显著提升了后门攻击成功率.此外，论文对触发器生成、水印系数、缩放系数等后门攻击核心要素进行了实验测试，给出了影响后门攻击性能的最佳参数，并在MNIST,CIFAR-10等数据集上验证了Bac_GAN方案的攻击有效性.
    Abstract: Federated learning enables users to participate in collaborative model training while keeping their data in local, which ensures the privacy and security of users’ data. It has been widely used in smart finance, smart medical and other fields. However, federated learning shows inherent vulnerability to backdoor attacks, where the attacker implants the backdoor by uploading the model parameters. Once the global model recognizes the input with the trigger, it will misclassify the input as the label specified by the attacker. This paper proposes a new federated learning backdoor attack scheme, Bac_GAN. By combining generative adversarial network, triggers are implanted in clean samples in the form of watermarks, which reduces the discrepancy between trigger features and clean sample features, and enhance the imperceptibility of triggers. By scaling the backdoor model, the problem of offsetting the contribution of the backdoor during parameter aggregation is avoided, so that the backdoor model can converge in a short time, thus significantly increasing the attack success rate. In addition, we conduct experimental tests on the core elements of backdoor attacks, such as trigger generation, watermark coefficient and scaling coefficient, and give the best parameters that affect the performance of backdoor attack. Also, we validate the attack effectiveness of the Bac_GAN scheme on MNIST and CIFAR-10.
    • HTML全文
    • 参考文献(0)
    • 相关文章
    • 施引文献(48)

  • 期刊类型引用(20)

    1. 马行坡，闫梦凡，闵洁，殷明. 一种基于“云-边”协同计算的新安全联邦学习方案. 信阳师范大学学报(自然科学版). 2025(01): 66-71 . 百度学术
    2. 白静，许建军，张龙昌. 随机供需云环境中应用提供商收益驱动的最优资源协同配置策略. 信息系统学报. 2025(01): 105-127 . 百度学术
    3. 何涵，刘鹏，赵亮，王青山. 无人机任务卸载与充电协同优化. 工程科学与技术. 2024(01): 99-109 . 百度学术
    4. 朱思峰，蔡江昊，柴争义，孙恩林. 车联网边缘场景下基于免疫算法的计算卸载优化. 吉林大学学报(工学版). 2024(01): 221-231 . 百度学术
    5. 陈晶腾，陈芳. 分布式新能源接入的配电网降损技术研究. 自动化与仪器仪表. 2024(06): 291-295 . 百度学术
    6. 白静，张龙昌. 云应用提供商收益驱动的最佳云资源配置策略. 计算机集成制造系统. 2024(07): 2495-2505 . 百度学术
    7. 冯起，薛喜红，任龙，冯英. 考虑云端距离的科技服务边缘计算资源均衡调度算法. 自动化技术与应用. 2024(08): 95-98+104 . 百度学术
    8. 纪雯，杨哲铭，王智，郭斌，沈博. 视觉端边云融合架构:面向超级智慧城市群演进的关键技术. 中国科学:信息科学. 2024(11): 2518-2532 . 百度学术
    9. 赵璞，肖人彬. 基于自组织劳动分工的边云协同任务调度与资源缓存算法. 控制与决策. 2023(05): 1352-1362 . 百度学术
    10. 唐续豪，刘发贵，王彬，李超，蒋俊，唐泉，陈维明，何凤文. 跨云环境下任务调度综述. 计算机研究与发展. 2023(06): 1262-1275 . 本站查看
    11. 原静，孙骏. 基于边缘计算的智能电网数据调度与快速分发方法. 信息与电脑(理论版). 2023(06): 226-229 . 百度学术
    12. 刘鲤君，丁红，祁鸿燕，杜丽华，孙艳丽，姜宁. PaaS架构后端管理平台的云边协同调度算法设计. 现代电子技术. 2023(16): 91-96 . 百度学术
    13. 徐胜超. 基于混合蛙跳算法的容器云资源低能耗部署方法. 重庆邮电大学学报(自然科学版). 2023(05): 952-959 . 百度学术
    14. 何卫刚，王晓敏. 多技术辅助的高可靠矿井通信网络框架. 陕西煤炭. 2023(06): 150-153 . 百度学术
    15. 蒋伟进，孙永霞，朱昊冉，陈萍萍，张婉清，陈君鹏. 边云协同计算下基于ST-GCN的监控视频行为识别机制. 南京大学学报(自然科学). 2022(01): 163-174 . 百度学术
    16. 周伟，谢志强. 考虑多工序设备权重的资源协同综合调度算法. 电子与信息学报. 2022(05): 1625-1635 . 百度学术
    17. 李凌，陈曦，沈维捷，熊汉武，蔡冉冉. 面向电工装备智能监造的边缘缓存策略. 计算机与现代化. 2022(05): 61-67 . 百度学术
    18. 关天柱. 基于随机优化的边缘网络任务资源协同传输调度机制. 长江信息通信. 2022(06): 59-61 . 百度学术
    19. 邓勇琛，胡忠波，王素贞. 边缘计算环境下的任务调度综述. 河北省科学院学报. 2022(04): 1-7 . 百度学术
    20. 王其朝，金光淑，李庆，王锴，杨祖业，王宏. 工业边缘计算研究现状与展望. 信息与控制. 2021(03): 257-274 . 百度学术

    其他类型引用(28)

    • 资源附件(0)
计量
  • 文章访问数:  1129
  • HTML全文浏览量:  6
  • PDF下载量:  733
  • 被引次数: 48
出版历程
  • 发布日期:  2021-10-31

目录

摘要
HTML全文
    参考文献(0)
    相关文章
    施引文献(48)
    资源附件(0)

    /

    返回文章
    返回
    邮件订阅 RSS
    微信订阅号<br/>（实时资讯）

    微信订阅号
    （实时资讯）

    微信服务号<br/>（同步网站）

    微信服务号
    （同步网站）

    微信视频号<br/>（视频分享）

    微信视频号
    （视频分享）

    CCF<br/>（扫码入会）

    CCF
    （扫码入会）

    版权所有 © 《计算机研究与发展》编辑部

    本系统由北京仁和汇智信息技术有限公司开发  百度统计