Apache Kylin™ 是一个开源的、分布式的分析型数据仓库,提供Hadoop/Spark 之上的 SQL 查询接口及多维分析(OLAP)能力以支持超大规模数据。它能在亚秒内查询巨大的表。
Apache Kylin™ 令使用者仅需三步,即可实现超大数据集上的亚秒级查询。
1.定义数据集上的一个星形或雪花形模型
2.在定义的数据表上构建cube
3.使用标准 SQL 通过 ODBC、JDBC 或 RESTFUL API 进行查询,仅需亚秒级响应时间即可获得查询结果
Kylin 提供与多种数据可视化工具的整合能力,如 Tableau,Power BI 等,令用户可以使用 BI 工具对 Hadoop 数据进行分析
Apache Kylin 具有以下核心亮点:
1.可扩展超快OLAP引擎:
Kylin是为减少在Hadoop上百亿规模数据查询延迟而设计
*** ANSI SQL 接口:
Kylin为Hadoop提供标准SQL支持大部分查询功能
3.交互式查询能力:
通过Kylin,用户可以与Hadoop数据进行亚秒级交互,在同样的数据集上提供比Hive好上百倍的性能
4.多维立方体(MOLAP Cube):
用户能够在Kylin里为百亿以上数据集定义数据模型并构建立方体
5.与BI工具无缝整合:
Kylin提供与BI工具,如Tableau,的整合能力,即将提供对其它工具的整合
6.其他特性:
- 可视化Job管理与监控
- 多种压缩与编码方式
- 支持全量和增量更新
- 基于HyperLogLog和Bitmap的Distinct Count近似和精确算法
- 友好的web界面以管理,监控和使用Cube
- 项目及表级别的访问控制安全
- 支持LDAP统一用户认证
Apache Kylin 项目最初由eBay中国工程师团队创立,团队成员来自eBay,IBM,微软,摩根斯坦利等公司,具有大数据、云计算、数据库等多个领域多年研发经验,掌握核心技术和知识产权,具备独立自主研发大数据OLAP相关产品的经验和能力。团队于2016年获得红点资本的投资,成立大数据公司Kyligence,总部位于上海。主要为用户提供基于Apache Kylin的智能分析平台及产品,以及企业级商业分析解决方案。
评价单位:“科创中国”开源产业科技服务团 (中国通信学会)
评价时间:2022-11-18
综合评价
该成果技术创新性强,且技术成熟,投资回报比较可靠,目标市场处于成长市场,在未来十年将会普遍使用该成果类似产品取代上一代数据仓库产品;但该市场也面临各云厂商的侵蚀,产品竞争会比较激烈,但依然有很多企业会选择私有化部署。
总体而言,该项目技术思路方向很好,未来市场空间大,有利于当前政策要求,转化成熟度很高,值得支持推广。建议强化相应产品开发,加大产业链开发力度。
查看更多>