AI的未来必须寄托于深度神经网络?
价格 双方协商
地区: 北京市 市辖区 海淀区
需求方: 中国***委会
行业领域
新一代信息技术产业,人工智能,互联网与云计算、大数据服务
需求背景
AI未来的发展不应该全部寄托在深度神经网络上,需要避免出现人们不得不被迫选择深度神经网络的无奈,为此,有必要研究深度神经网络以外的AI系统,这将是改善AI生态环境的重要保障。
需解决的主要技术难题
今天AI的成功在很大程度上是大数据和深度学习的成功。如果把AI未来的发展全部寄托在深度神经网络上,总让人感到有些单调,尽管目前的网络形态也是多种多样的。为了保持“物种的多样性”,有必要研究深度神经网络以外的AI系统。
期望实现的主要技术目标
南京大学周志华教授认为,深度神经网络之所以成功的原因主要是基于逐层加工处理、内置特征变换和模型复杂度三个关键因素。但是,这三个因素并没有“要求”我们必须使用神经网络模型;只要能同时做到这三点,别的模型应该也能做深度学习。为此,他们提出了“深度森林”这种非神经网络的新型深度学习模型。深度森林的基础构件是不可微的决策树,其训练过程并不基于BP算法,甚至不依赖于梯度计算。“深度森林”具有训练简单、效率高等优点,小规模训练数据也可运转,而且在理论分析方面也更容易。因此,成为非深度神经网络AI系统的一种尝试。
此外,华南理工大学陈俊龙教授认为,虽然深度结构网络非常强大,但大多数网络都被极度耗时的训练过程所困扰。其中最主要的原因是,上述深度网络都结构复杂并且涉及到大量的超参数。为此,他提出了宽度神经网络系统。相对于“深度”结构来说,“宽度”结构由于没有层与层之间的耦合而非常简洁。同样,由于没有多层连接,宽度网络亦不需要利用梯度下降来更新权值,所以计算速度大大优于深度学习。在网络精度达不到要求时,可以通过增加网络的“宽度”来提升精度,而增加宽度所增加的计算量与深度网络增加层数相比,可以说是微乎其微。当然,也有学者认为,现有的宽度学习仅适用于数据特征不多,但对预测实时性要求较高的场景。
需求解析
解析单位:“科创中国”人工智能专业科技服务团(中国人工智能学会) 解析时间:2022-12-19
倪晶
中关村芯海择优科技有限公司
陈小锋
综合评价
处理进度