您所在的位置: 成果库 Apache Kylin 多维大数据分析引擎

Apache Kylin 多维大数据分析引擎

成果类型:: 新技术

发布时间: 2022-11-18 10:34:48

科技成果产业化落地方案
方案提交机构:“科创中国”开源产业科技服务团| 李以华 | 2022-12-07 14:47:33

Apache Kylin™ 是一个开源的、分布式的分析型数据仓库,提供Hadoop/Spark 之上的 SQL 查询接口及多维分析(OLAP)能力以支持超大规模数据。它能在亚秒内查询巨大的表。Apache Kylin™ 令使用者仅需三步,即可实现超大数据集上的亚秒级查询。1.定义数据集上的一个星形或雪花形模型2.在定义的数据表上构建cube3.使用标准 SQL 通过 ODBC、JDBC 或 RESTFUL API 进行查询,仅需亚秒级响应时间即可获得查询结果Kylin 提供与多种数据可视化工具的整合能力,如 Tableau,Power BI 等,令用户可以使用 BI 工具对 Hadoop 数据进行分析

Apache Kylin 具有以下核心亮点:1.可扩展超快OLAP引擎:Kylin是为减少在Hadoop上百亿规模数据查询延迟而设计*** ANSI SQL 接口:Kylin为Hadoop提供标准SQL支持大部分查询功能3.交互式查询能力:通过Kylin,用户可以与Hadoop数据进行亚秒级交互,在同样的数据集上提供比Hive好上百倍的性能4.多维立方体(MOLAP Cube):用户能够在Kylin里为百亿以上数据集定义数据模型并构建立方体5.与BI工具无缝整合:Kylin提供与BI工具,如Tableau,的整合能力,即将提供对其它工具的整合6.其他特性:- 可视化Job管理与监控- 多种压缩与编码方式- 支持全量和增量更新- 基于HyperLogLog和Bitmap的Distinct Count近似和精确算法- 友好的web界面以管理,监控和使用Cube- 项目及表级别的访问控制安全- 支持LDAP统一用户认证

本项目的研究成果可用于物联网时序数据存储及分析,并减少高延迟、低适配等数据库常见问题,让企业更好的运用时序数据价值。

Apache Kylin 项目最初由eBay中国工程师团队创立,团队成员来自eBay,IBM,微软,摩根斯坦利等公司,具有大数据、云计算、数据库等多个领域多年研发经验,掌握核心技术和知识产权,具备独立自主研发大数据OLAP相关产品的经验和能力。团队于2016年获得红点资本的投资,成立大数据公司Kyligence,总部位于上海。主要为用户提供基于Apache Kylin的智能分析平台及产品,以及企业级商业分析解决方案。

近年来伴随物联网和工业互联网行业的发展,高效的物联网/工业物联网数据管理技术成为工业界的需求热点。针对工业场景中机器设备、传感器等终端上报的时序数据(按时间记录的数据列),时序数据库为更好的管理时序数据提供了出色的解决方案,能够帮助企业更好的挖掘时序数据价值。

技术由Apache Kylin核心团队研发,预计应用于各工业领域公司以Apache Kylin为主体的时序数据管理平台中。目前公司资金充足,可以单独完成成果研发,并在开源社区积极寻求开源用户体验、优化产品。希望未来能够在更多行业更多企业运用至时序数据管理平台。