科创中国

高端装备制造产业

随着无人平台技术的不断发展，无人机、自动驾驶车辆等领域正在取得越来越多的应用。然而，这些应用也面临着越来越多的安全威胁，特别是对抗攻击的风险。对抗攻击是指攻击者通过对系统输入的微小扰动，使得输出结果发生显著的错误，从而破坏无人平台的正常运行。在这种情况下，对抗样本防御技术成为了无人平台领域的急需技术。对抗样本防御技术可以有效地识别和过滤对抗攻击，保护系统的正常运行。 本项成果面向当前民用智能化无人平台安全性的总体需求，研究对抗攻击、投毒攻击和相应防御方法的领域前沿技术算法，实现通过民用智能化无人平台中图像识别系统的缺陷对信息系统进行干扰、破坏及相应的反制、取证技术。该成果可以部署在公安机关的反恐怖、交通管理、视频警务等相关系统中，及自动驾驶等民用领域。

本项成果所构建的系统集成了对抗样本检测和恢复技术，以提高无人平台系统的鲁棒性和安全性。具体而言，对抗样本检测技术可以识别潜在的对抗攻击，通过对输入数据的监测和分析，检测出存在攻击的样本，并采取相应的处理措施。对抗样本恢复技术则可以对被攻击的样本进行恢复，使得系统可以正确地识别和处理这些样本。这些技术需要结合深度学习、机器学习等相关技术，统一进行部署以提高系统的鲁棒性和安全性，保障系统的正常运行和安全应用。成果所包含的数字空间对抗攻防评估取证系统实现了对智能化无人系统的图像识别系统数字空间对抗攻防取证，通过一系列指标,全面评估民用智能系统的对抗鲁棒性与对抗攻击/防御的有效性。成果所包含的物理空间对抗攻防取证平台基于现实物理世界中的环境条件，提出适应性算法生成物理对抗扰动，实现了对智能化无人系统的图像识别系统物理空间对抗攻防取证。

浙江大学机器人研究院（以下简称“研究院）是为了贯彻落实浙江省委省政府关于推进工业转型升级的战略部署，在余姚市的大力推动下，于2017年由浙江大学和余姚市合作共建的新型研发机构。 研究院面向科技前沿、面向经济发展主战场，将机器人、智能装备研发及产业化作为主要突破方向；立足余姚、服务浙江、面向全国。以“合作、创新、智能、引领”为理念，以体制机制创新为抓手，以科技研发、成果转化和人才培育为核心，着力构建技术-人才-产业深度融合的创新创业生态；努力建成为国内一流的机器人领域政、产、学、研、用深度融通的新高地。