近日，我校人工智能学部王亮亮副教授及其硕士研究生王康在联邦学习安全方向取得新进展，相关论文《SHIFT: Enhancing federated learning robustness through client-side backdoor detection》以上海电力大学第一单位及研究生第一作者身份被计算机科学与人工智能国际顶级期刊《Information Fusion》（中科院一区TOP期刊）录用，其最新影响因子高达15.5。
联邦学习的分布式架构容易遭受隐蔽的后门攻击：攻击者可在本地训练中植入触发器，使全局模型在特定输入下产生恶意行为，从而威胁系统的可靠性。现有不少防御方法需要在服务器端对加密上传的梯度先进行解密然后再进行检测，往往带来显著计算开销与部署负担。
针对上述痛点，论文提出了SHIFT框架，核心思路是将后门检测任务从服务器侧“转移”到客户端侧完成：一方面，客户端可直接对未加密的数据进行检测，从而显著降低服务器端的计算压力；另一方面，引入客户端代码混淆（code obfuscation）以提升检测逻辑的隐蔽性，降低恶意客户端逆向分析与绕过的风险；同时设计了动态风险等级映射机制，对检测输出的结果进行自适应扰动与映射，以抑制攻击者基于反馈进行反复试探或迭代规避的可能性。
该项成果为联邦学习在隐私保护前提下实现更高鲁棒性的安全机制设计提供了新思路，也为后续联邦学习攻防对抗研究与应用推广提供了重要参考；研究团队表示，SHIFT在后门检测效率方面较现有方案提升了数倍，适用于计算资源受限及大规模分布式联邦学习应用。
人工智能学部 供稿