车辆驾驶行为辅助分析需求
价格 20万
地区: 山东省 济南市
需求方: 山东***公司
行业领域
新一代信息技术产业,信息传输、软件和信息技术服务业
需求背景
目前一些货运及交通运输企业、客运集团等对车辆的相关信息掌握、驾驶员驾驶行为监管的需求
需解决的主要技术难题
1、建立一套基于交通运输车辆、客运车辆的大数据分析平台;
2、对驾驶员驾驶行为可以进行监测;
期望实现的主要技术目标
针对平台获取的多源海量数据的存储和访问,建立集中化的数据仓库来统一管理,实现自动化方式完成数据抽取(Extract)、清洗(Cleaning)、转换(Transform)、装载(Load)的ETL工作流,以加强数据执行的稳定性、可靠性、安全性。要求采用负载均衡技术来应对高并发数据访问,实现通过流量分发扩展应用系统对外的服务能力,通过消除单点故障提升应用系统的可用性;数据定时自动备份、手动备份,在线恢复历史数据,可在后台进行数据迁移。数据访问层采用NoSql+多级缓存技术,以达到高效、快速的数据存储和访问。中心计算器采用Spark+shark,使用Impala技术,利用分布式的集群和高效存储方式来加快数据集上的查询速度,近似实时查询;数据仓库采用Hive,数据挖掘采用Mahout,采用Hadoop最新的YARN架构作为分布式计算框架来负责所有应用程序的资源分配和管理。底层文件系统采用HDFS作为底层存储技术, 保证高吞吐量的数据访问。
处理进度