科创中国

行业领域

新一代信息技术产业,信息传输、软件和信息技术服务业

需求背景

联邦学习是一种具有数据保护功能的分布式机器学习框架，能够帮助多个用户在满足其隐私保护、数据安全和以及政策法规的情况下，同时实现对无法共享的数据进行学习和建模。他的目标不是共享数据，而是分布式的学习一个机器学习模型，这对打破数据孤岛具有更好的作用。联邦学习最早由谷歌在2016年提出，当时这个模型主要针对手机终端，微众银行的人工智能团队，提出了“联邦迁移学习”的解决方案，将迁移学习和联邦学习结合起来，实现金融数据的具有隐私保护下的分布式学习。该领域的著名学者杨强教授也曾在“联邦学习研讨会”上介绍,迁移学习的数据迁移机制可以让联邦学习具有更好的通用性,迁移学习的特点是适用于不同类型的数据结构、不同的用户机构。可以在这种情况下，建立机器学习模型，同时，这些模型的功能能够在不需要对其他数据进行过多需求的情况下，有效的发挥作用。这种基于迁移学习的联邦学习打破了领域和算法的限制，特别是对用户隐私以及数据安全方面具有较高的优势。

需解决的主要技术难题

联邦学习系统需要多方协作，现实中必然存在多方计算能力和资源分配不均的情况，如何将这种资源差异性考虑在内，制定灵活的资源分配机制，以及如何根据这种差异设计相应的激励机制，这一问题的解决不仅需要从技术层面考虑，还要从市场资源的角度综合考虑。技术层面的完善，主要集中在底层技术原理的改进。还是以联邦学习传输的模型更新为例，除了同态加密，还会加入差分隐私，这些都是非常重要的隐私技术，但是这些隐私技术可能会对机器学习模型最终准确度造成一定的影响。从目前的研究看来，有好的影响，比如防止过拟合；也有坏的影响，比如给模型增加的偏置（bias）牺牲了准确性。这方面的研究目前还不够多，而且涉及众多不同的联邦学习算法，可能采取的方案也不同。这一点也是联邦学习不断发展过程中必须要解决的难题。

期望实现的主要技术目标

联邦学习与区块链的分布式记账相结合实现参与各方价值互换和有效激励;实现数据隐私与可用性的平衡，在确保数据隐私与可用的前提下，进一步压缩参与者以及训练样本的数量。

处理进度