科创中国

行业领域

新一代信息技术产业,信息传输、软件和信息技术服务业

需求背景

联邦学习解决了数据孤岛问题，能够保证参与方各方在保持独立性的情况下，进行信息与模型参数的加密交换，并同时获得成长。随着联邦学习的发展，针对联邦学习的攻击也变得日益频繁，其中投毒攻击就是其中一种非常广泛且效果显著的攻击方式，投毒攻击主要可以分为两大类，数据投毒与模型投毒，在联邦学习遭受投毒攻击安全威胁的情况下，目前大部分的检测手段都是单一的应对方式，仅针对数据投毒或模型投毒，因此，研究综合的联邦学习投毒检测系统，全面立体的检测防御投毒攻击，对提升联邦学习安全性有其重要意义。

需解决的主要技术难题

多种算法如何集成到同一个系统以数据投毒检测算法为例，多种检测算法，可能每一种都有不同的假设，不同的前提，以不同的方式来检测数据投毒，如何将这多种数据投毒检测算法给集成到一起，这将会是下一步待解决的问题，模型投毒检测算法也是如此，最后还要将这两大类算法进行集成，实现一个完整融洽的系统，这会是另一个关键问题。

期望实现的主要技术目标

模型投毒检测算法的集成以模型投毒安全威胁之下的联邦学习为背景，研究各类模型投毒检测算法，对多种算法进行集成，以实现应对不同情况下模型投毒的检测，并且对众多模型投毒检测算法进行分析比较，联邦学习投毒检测系统的设计与实现在前两个研究内容的基础上，研究联邦学习的投毒检测系统的设计与实现。研究一个综合的系统，该系统能够实现针对联邦学习的投毒攻击进行检测。

处理进度