科创中国

行业领域

高技术服务业

需求背景

为了在复杂、动态的驾驶环境中实现自动驾驶，自动驾驶系统设计了一系列人工智能组件来处理感知、定位、预测和规划等核心决策过程，这些组件本质上构成了自动驾驶车辆的大脑。这些人工智能组件的安全性非常关键，一旦系统遭受恶意攻击，将会给自动驾驶车辆带来巨大的安全问题。

正常情况下，在识别到路障、指示牌、行人等目标后，自动驾驶车辆就会立即停车，但由于对抗样本等算法漏洞的存在，导致能够通过修改道路车辆等目标物的颜色、纹理特征，使车辆目标检测模型失效，这将对自动驾驶车辆带来巨大的安全问题。

鲁棒性是机器学习模型的一项重要评价指标，主要用于检测模型在面对输入数据的微小变动时，是否依然能保持判断的准确性，模型鲁棒性测试即对模型的鲁棒性进行测评。针对自动驾驶车辆易遭受攻击产生安全性问题，需对抗样本攻击方法，开发测试车辆感知算法鲁棒性的工具，及鲁棒性加固工具，并在构建感知模型鲁棒性评估平台，为模型测评构建统一测试渠道，并生成测评报告。

需解决的主要技术难题

面向自动驾驶感知系统的鲁棒性测试技术研究需要解决以下技术难题：

1. 多样性测试：自动驾驶感知系统需要能够在各种不同的环境条件下正常运行，包括不同的天气、光照、道路状况等。因此，鲁棒性测试技术需要能够模拟和测试这些多样性的场景，以验证系统在各种条件下的性能。

2. 边界情况测试：自动驾驶感知系统需要能够正确地处理各种边界情况，例如突然出现的障碍物、不明确的交通信号等。鲁棒性测试技术需要能够模拟和测试这些边界情况，以验证系统对于异常情况的响应能力。

3. 对抗性攻击测试：自动驾驶感知系统可能受到对抗性攻击，例如通过修改或伪造感知数据来欺骗系统。鲁棒性测试技术需要能够模拟和测试这些对抗性攻击，以验证系统对于攻击的鲁棒性。

4. 数据不平衡问题：自动驾驶感知系统的训练数据可能存在不平衡问题，例如某些类别的样本数量较少。鲁棒性测试技术需要能够测试系统在不平衡数据集上的性能，以验证系统对于各个类别的感知能力是否平衡。

5. 模型迁移问题：自动驾驶感知系统的训练和测试环境可能存在差异，例如不同的城市、不同的道路条件等。鲁棒性测试技术需要能够测试系统在不同环境下的性能，以验证系统的模型迁移能力。

6. 实时性要求：自动驾驶感知系统需要实时地对感知数据进行处理和决策。鲁棒性测试技术需要能够测试系统在实时性要求下的性能，以验证系统的实时性能。

7. 可解释性问题：自动驾驶感知系统需要能够解释其决策的依据，以增加人类用户对系统的信任。鲁棒性测试技术需要能够测试系统的可解释性，以验证系统对于决策的解释能力。

解决这些技术难题将有助于提高自动驾驶感知系统的鲁棒性和可靠性，从而使其能够在各种复杂的实际场景中安全地运行。

期望实现的主要技术目标

该项目产品可以直接应用在自动驾驶感知系统的鲁棒性测试及感知算法加固过程中，通过对抗训练，解决自动驾驶因车辆对抗攻击带来的一系列安全问题，为车厂提供更安全的自动驾驶感知算法保障。

处理进度