科创中国

行业领域

新一代信息技术产业,信息传输、软件和信息技术服务业

需求背景

年来全球掀起人工智能研发浪潮，美国、日本、英国、德国等世界科技强国纷纷将人工智能上升为国家战略，力图在新一轮国际科技竞争中掌握主导权。深度学习作为实现人工智能的一种重要方法，通过海量训练数据构建具有很多隐层的深度学习模型，获得强大的数据特征学习能力．在深度学习过程中，普遍认为训练数据量越大，训练得到的模型的鲁棒性和准确性越高．因此，深度学习通常需要着重考虑数据的多源性，即通过汇聚各个机构或者用户数据完成整体计算任务，以提高训练模型的准确性．但在深度学习模型训练过程中，运营商可能会窃取用户的隐私信息．同时，公司之间的数据共享需要用户的授权，而许多用户出于隐私泄露的顾虑而拒绝数据共享。因此，人工智能深度学习隐私问题备受关注。梯度反演技术的新兴研究使得联邦学习的共享梯度机制受到了威胁，梯度反演噪声转换到图像，通过损失函数反向传播真实梯度迭代更新噪声的梯度，使得噪声通过真实梯度反演出原始训练数据。这项新兴技术的出现不仅使得联邦学习的核心共享梯度机制受到了极大的安全挑战，且在机器学习训练过程中凡是涉及到梯度的训练方法中都存在隐私泄露的风险。因此在这项新兴技术的基础上进一步探索梯度所携带的训练数据的信息量，发现梯度在人工智能模型训练中带来的隐私泄露风险，找到相对应的梯度保护方法，对人工智能安全有着重大意义。

需解决的主要技术难题

模型复杂性评估问题

模型复杂性评估是利用结构熵去计算模型参数的稳定性，有效的评估网络参数的稳定性之后根据评估标准来寻找梯度反演攻击的效果与网络结构的稳定性之间的关系，作为防御方法的重要工作，亟需一个有效的评估方法。

期望实现的主要技术目标

对平均梯度进行损失匹配：真实梯度与噪声数据结合负对数似然估计思想找到损失函数，通过不断迭代计算损失函数，使得噪声数据分布与真实数数据分布尽可能一致。加以正则项辅助，达到深度网络中高质量的图像重建。

处理进度