贵州元数通科技有限公司技术需求
价格 双方协商
地区: 贵州省 贵阳市
需求方: 贵州***公司
行业领域
新一代信息技术产业,信息传输、软件和信息技术服务业
需求背景
近年来,机器学习技术飞速发展,并在自然语言处理、图像识别、搜索推荐等领域得到了广泛的应用。然而现有大量开放部署的机器学习模型在模型安全与数据隐私方面面临着严峻的挑战。在云上医疗服务平台,成员推理攻击会严重威胁病人关键数据的隐私,一些如药物剂量、生物基因数据等关键隐私数据的泄露有可能造成被攻击病人的死亡。如何保证云上平台模型的安全性以及用户数据隐私的保护逐渐成为研究的热点问题。目前的研究中,合成数据中存在大量噪声缺乏关注,模拟目标模型算法研究乏善可陈,云端抵御成员推测攻击方案研究匮乏等一系列问题有待完善。因此,深入剖析攻击的生成机理进一步研制强大的防御方案对医疗数据的隐私保护具有重要意义,也符合当前时局的要求。
需解决的主要技术难题
1.利用生成对抗网络合成数据,如何保证预测标签能够无误贴合原始数据标签,确保合成数据优质可行。
2.在取消影子模型使用后,如何合理设计全新且强大的攻击方案,免除过拟合单一因素干扰,实现精准且高效的攻击。
期望实现的主要技术目标
1.生成优质的合成数据,用于攻击的性能研究,构建强大的攻击机制威胁。
2.获取新的数据泄露评价指标,嵌入平台模型的安全性能上。
处理进度