• 中国精品科技期刊
  • CCF推荐A类中文期刊
  • 计算领域高质量科技期刊T1类
高级检索

基于生成式对抗网络的联邦学习后门攻击方案

陈大卫, 付安民, 周纯毅, 陈珍珠

陈大卫, 付安民, 周纯毅, 陈珍珠. 基于生成式对抗网络的联邦学习后门攻击方案[J]. 计算机研究与发展, 2021, 58(11): 2364-2373. DOI: 10.7544/issn1000-1239.2021.20210659
引用本文: 陈大卫, 付安民, 周纯毅, 陈珍珠. 基于生成式对抗网络的联邦学习后门攻击方案[J]. 计算机研究与发展, 2021, 58(11): 2364-2373. DOI: 10.7544/issn1000-1239.2021.20210659
Chen Dawei, Fu Anmin, Zhou Chunyi, Chen Zhenzhu. Federated Learning Backdoor Attack Scheme Based on Generative Adversarial Network[J]. Journal of Computer Research and Development, 2021, 58(11): 2364-2373. DOI: 10.7544/issn1000-1239.2021.20210659
Citation: Chen Dawei, Fu Anmin, Zhou Chunyi, Chen Zhenzhu. Federated Learning Backdoor Attack Scheme Based on Generative Adversarial Network[J]. Journal of Computer Research and Development, 2021, 58(11): 2364-2373. DOI: 10.7544/issn1000-1239.2021.20210659

基于生成式对抗网络的联邦学习后门攻击方案

基金项目: 国家自然科学基金项目(62072239);信息安全国家重点实验室开放基金项目(2021-MS-07);中央高校基本科研业务费专项资金(30920021129,30921013111)
详细信息
  • 中图分类号: TP391

Federated Learning Backdoor Attack Scheme Based on Generative Adversarial Network

Funds: This work was supported by the National Natural Science Foundation of China (62072239), the Open Foundation of the State Key Laboratory of Information Security of China (2021-MS-07), and the Fundamental Research Funds for the Central Universities (30920021129, 30921013111).
  • 摘要: 联邦学习使用户在数据不出本地的情形下参与协作式的模型训练,降低了用户数据隐私泄露风险,广泛地应用于智慧金融、智慧医疗等领域.但联邦学习对后门攻击表现出固有的脆弱性,攻击者通过上传模型参数植入后门,一旦全局模型识别带有触发器的输入时,会按照攻击者指定的标签进行误分类.因此针对联邦学习提出了一种新型后门攻击方案Bac_GAN,通过结合生成式对抗网络技术将触发器以水印的形式植入干净样本,降低了触发器特征与干净样本特征之间的差异,提升了触发器的隐蔽性,并通过缩放后门模型,避免了参数聚合过程中后门贡献被抵消的问题,使得后门模型在短时间内达到收敛,从而显著提升了后门攻击成功率.此外,论文对触发器生成、水印系数、缩放系数等后门攻击核心要素进行了实验测试,给出了影响后门攻击性能的最佳参数,并在MNIST,CIFAR-10等数据集上验证了Bac_GAN方案的攻击有效性.
    Abstract: Federated learning enables users to participate in collaborative model training while keeping their data in local, which ensures the privacy and security of users’ data. It has been widely used in smart finance, smart medical and other fields. However, federated learning shows inherent vulnerability to backdoor attacks, where the attacker implants the backdoor by uploading the model parameters. Once the global model recognizes the input with the trigger, it will misclassify the input as the label specified by the attacker. This paper proposes a new federated learning backdoor attack scheme, Bac_GAN. By combining generative adversarial network, triggers are implanted in clean samples in the form of watermarks, which reduces the discrepancy between trigger features and clean sample features, and enhance the imperceptibility of triggers. By scaling the backdoor model, the problem of offsetting the contribution of the backdoor during parameter aggregation is avoided, so that the backdoor model can converge in a short time, thus significantly increasing the attack success rate. In addition, we conduct experimental tests on the core elements of backdoor attacks, such as trigger generation, watermark coefficient and scaling coefficient, and give the best parameters that affect the performance of backdoor attack. Also, we validate the attack effectiveness of the Bac_GAN scheme on MNIST and CIFAR-10.
  • 期刊类型引用(14)

    1. 郑明钰,林政,刘正宵,付鹏,王伟平. 文本后门攻击与防御综述. 计算机研究与发展. 2024(01): 221-242 . 本站查看
    2. 张佳乐,朱诚诚,成翔,孙小兵,陈兵. 基于对比训练的联邦学习后门防御方法. 通信学报. 2024(03): 182-196 . 百度学术
    3. 朱素霞 ,王金印 ,孙广路 . 基于感知相似性的多目标优化隐蔽图像后门攻击. 计算机研究与发展. 2024(05): 1182-1192 . 本站查看
    4. 马玉梅,张东阳. 基于联邦学习的无线通信网络DoS攻击检测方法. 现代电子技术. 2024(18): 47-51 . 百度学术
    5. 缪祥华,张世奇,黄明巍,张世杰,王欣源. 联邦学习系统中不同角色面临的威胁. 数据通信. 2024(06): 30-37 . 百度学术
    6. 王涛,冯凯. 自注意力特征下机场跑道周界异物入侵预警. 计算机仿真. 2024(12): 88-92 . 百度学术
    7. 董玉圻. 基于孤立森林算法的铁路通信网潜在攻击检测方法研究. 铁道通信信号. 2023(07): 54-59 . 百度学术
    8. 魏博众,廖政,郑开超. 融合信誉评估机制的区块链联邦学习平台设计. 现代计算机. 2023(12): 65-71 . 百度学术
    9. 古天龙,李龙,常亮,李晶晶. 公平联邦学习及其设计研究综述. 计算机学报. 2023(09): 1991-2024 . 百度学术
    10. 况博裕,李雨泽,顾芳铭,苏铓,付安民. 车联网安全研究综述:威胁、对策与未来展望. 计算机研究与发展. 2023(10): 2304-2321 . 本站查看
    11. 梅皓琛,李高磊,杨潇. 基于隐私推断Non-ⅡD联邦学习模型的后门攻击研究. 现代信息科技. 2023(19): 167-171 . 百度学术
    12. 宋钊,孙骞. 人工智能背景下全球关键信息基础设施安全挑战与对策. 信息安全与通信保密. 2022(06): 94-101 . 百度学术
    13. 陈明鑫,张钧波,李天瑞. 联邦学习攻防研究综述. 计算机科学. 2022(07): 310-323 . 百度学术
    14. 王尚,李昕,宋永立,苏铓,付安民. 基于自定义后门的触发器样本检测方案. 信息安全学报. 2022(06): 48-61 . 百度学术

    其他类型引用(28)

计量
  • 文章访问数:  1101
  • HTML全文浏览量:  4
  • PDF下载量:  724
  • 被引次数: 42
出版历程
  • 发布日期:  2021-10-31

目录

    /

    返回文章
    返回