科创中国

高端装备制造产业

随着无人平台技术的不断发展，无人机、自动驾驶车辆等领域正在取得越来越多的应用。然而，这些应用也面临着越来越多的安全威胁，特别是对抗攻击的风险。对抗攻击是指攻击者通过对系统输入的微小扰动，使得输出结果发生显著的错误，从而破坏无人平台的正常运行。在这种情况下，对抗样本防御技术成为了无人平台领域的急需技术。对抗样本防御技术可以有效地识别和过滤对抗攻击，保护系统的正常运行。 本项成果面向当前民用智能化无人平台安全性的总体需求，研究对抗攻击、投毒攻击和相应防御方法的领域前沿技术算法，实现通过民用智能化无人平台中图像识别系统的缺陷对信息系统进行干扰、破坏及相应的反制、取证技术。该成果可以部署在公安机关的反恐怖、交通管理、视频警务等相关系统中，及自动驾驶等民用领域。

本项成果所构建的系统集成了对抗样本检测和恢复技术，以提高无人平台系统的鲁棒性和安全性。具体而言，对抗样本检测技术可以识别潜在的对抗攻击，通过对输入数据的监测和分析，检测出存在攻击的样本，并采取相应的处理措施。对抗样本恢复技术则可以对被攻击的样本进行恢复，使得系统可以正确地识别和处理这些样本。这些技术需要结合深度学习、机器学习等相关技术，统一进行部署以提高系统的鲁棒性和安全性，保障系统的正常运行和安全应用。成果所包含的数字空间对抗攻防评估取证系统实现了对智能化无人系统的图像识别系统数字空间对抗攻防取证，通过一系列指标,全面评估民用智能系统的对抗鲁棒性与对抗攻击/防御的有效性。成果所包含的物理空间对抗攻防取证平台基于现实物理世界中的环境条件，提出适应性算法生成物理对抗扰动，实现了对智能化无人系统的图像识别系统物理空间对抗攻防取证。

 机器人与智能装备产业创新服务综合体创建于2018年，位于余姚机器人智谷小镇，2020年升级为省级综合体，是余姚市创建的创新链、人才链、资金链、产业链专业化服务平台，现由浙江大学机器人研究院下的浙江湾区机器人技术有限公司负责建设。     综合体目前建有机器人与智能装备产业创新中心，重点打造人才服务基地和智能制造服务基地，高质量建设创新创业孵化、科技金融服务、知识产权服务、科技成果交易服务、政企对接服务等五大专业性平台。