您所在的位置: 成果库 金融大数据OLAP云服务建设实践

金融大数据OLAP云服务建设实践

成果类型:: 实用新型专利

发布时间: 2023-09-19 10:53:05

科技成果产业化落地方案
方案提交机构:成果发布人| 耿祎楠 | 2023-09-19 10:53:05

随着金融业数字化转型的逐步推进,银行的数据量呈现出爆发式增长的趋势,传统MPP数据仓库已经很难高效处理如此大规模数据的在线联机分析,且Hive、Spark等技术都只能覆盖OLAP的一部分场景。本次申报的大数据OLAP云服务,通过预计算、读写分离、智能路由、多租户等技术在大数据生态下的创新应用,实现了覆盖大数据OLAP全场景的统一大数据OLAP能力,具备海量数据敏捷、灵活、精细的分析的优点,大大拓展OLAP分析的场景宽度和深度。其次,利用Kyligence Enterprise的多租户能力和大数据云平台基础PaaS服务的深度融合,实现了大数据OLAP能力的云服务化,从而使得该项服务具备了敏捷部署和弹性伸缩的能力,有效解决和缓解了金融数字化转型和科技输出过程中普遍面临重要难题。

目前建行大数据OLAP云服务的对象主要分为两类,一类是行内客户,一类是行外客户。对外,大数据OLAP云服务支持了多地的政务类输出,在过程中完善了很多非金融特性。一方面让这个服务适用范围更广,另一方面也坚定了建行将云平台产品化的决心,实现拓宽金融服务面、拉近客户与银行的距离,促进客户需求落地的功能。对内,大数据OLAP云服务可以敏捷、弹性、灵活支撑各种大数据应用。应用可以根据自身需求,利用大数据OLAP云服务的海量数据多维分析能力和大数据云平台其他组件提供的存储计算、数据加工、分析挖掘和数据可视化等能力进行组合,完成相应的业务功能,目前,已经上线运行了40多个全云化的大数据应用。

多租户的PaaS数据服务

Kyligence公司帮助建行建设的大数据OLAP云服务属于PaaS服务,以云原生方式实现了多租户的大数据OLAP云服务,能够敏捷部署并实现弹性伸缩,支撑行内和生态企业多变和复杂的业务需求。

大数据OLAP云服务架构如下图所示:大数据云上的运营平台、项目管理、数据管理、数据服务、数据开发、运维平台等公共组件实现PaaS的基础服务能力;Kyligence集群以云原生方式通过API与这些公共组件融合;Kyligence集群由Kyligence Enterprise(下图简称 KE)管理服务初始化,并由Kyligence Manager完成应用层面的管理,如租户的划分和管理。

Kyligence 由 Apache Kylin(领先的开源分布式 OLAP 分析引擎)核心团队创立,为企业级客户提供数字化转型基础设施,以进一步简化和自动化数据管理及分析。Kyligence 深耕企业服务市场,为银行、保险、制造、零售等行业近百家客户提供了下一代企业级数据管理与分析平台,包括 UBS、浦发银行、平安银行、宁波银行、太平洋保险、大地保险、中国银联、VIVO、上汽、一汽、安踏、Xactly 等全球知名企业和各行各业领导者。公司以双总部运行,中国总部位于上海,美国总部位于加利福尼亚硅谷。

本方案超越了众多大数据OLAP技术,实现了大数据背景下的敏捷、精细的OLAP分析,计算能力横向扩展可以用调动超过1000节点的Hadoop集群,支撑几乎没有数据量限制的分析。截止2020年8月底,生产上的大数据OLAP云服务可调动1000多台节点的资源,查询平均响应时间在1秒以内,每天查询量有几十万次。

本项目可以采用技术转让、技术合作等多种形式进行对接,一是通过基于AI增强引擎的预计算、查询智能路由、读写分离等技术实现了大数据时代覆盖全场景的统一OLAP分析,二是结合Kyligence Enterprise的多租户能力和大数据云平台的IaaS基础设施打造了统一大数据OLAP服务的敏捷部署和弹性供给能力,从而有效助力行内重点数字力工程关键项目的建设,赋能建行金融科技战略和生态输出。