Apache Kylin权威指南(第2版)
上QQ阅读APP看书,第一时间看更新

1.1 背景和历史

现今,大数据行业发展得如火如荼,新技术层出不穷,整个生态欣欣向荣。作为大数据领域最重要的技术的Apache Hadoop最初致力于简单的分布式存储,然后在此基础之上实现大规模并行计算,到如今在实时分析、多维分析、交互式分析、机器学习甚至人工智能等方面有了长足的发展。

2013年年初,在eBay内部使用的传统数据仓库及商业智能平台碰到了“瓶颈”,传统架构只支持垂直扩展,通过在一台计算机上增加CPU和内存等资源来提升计算机的数据处理能力。相对于数据指数级的增长,单机扩展很快达到极限,不可避免地遇到了“瓶颈”。此外,Hadoop大数据平台虽然能存储和批量处理大规模数据,但与BI平台的连接技术还不够成熟,无法提供高效的交互式查询。于是,寻找到更好的交互式大数据分析方案成为当务之急。

2013年年中,eBay公司启动了一个大数据项目,其中有一部分内容就是BI on Hadoop的预研。当时,eBay中国卓越中心组建了一支很小的团队,他们在分析和测试了多种开源和商业解决方案后,发现没有一种方案能够完全满足当时的需求,即在超大规模数据集上提供秒级的查询性能,并基于Hadoop与BI平台无缝整合等。在研究了多种可能性后,eBay最终决定自己来实现一套OLAP-on-Hadoop的解决方案,以弥补业界的此类空白。与此同时,eBay也非常鼓励各个项目开源、回馈社区,在给负责整个技术平台的高级副总裁做汇报的时候,得到的一个反馈就是“从第一天起就做好开源的准备”。

经过一年多的研发,2014年9月底,代号Kylin的大数据平台在eBay内部正式上线。Kylin在Hadoop上提供标准和友好的SQL接口,并且查询速度非常快,原本要几分钟才能完成的查询现在几秒钟就能返回结果,BI分析的工作效率得到几百倍的提升,获得了公司内部客户、合作伙伴及管理层的高度评价,一上线便吸引了多个种子客户。2014年10月1日,Kylin项目负责人韩卿将Kylin的源代码提交到github.com并正式开源。当天就得到了业界专家的关注和认可。图1-1所示为Hortonworks的CTO对Apache Kylin的Twitter评价。

图1-1 Hortonworks的CTO对Apache Kylin的Twitter评论

很快,Hadoop社区的许多朋友都鼓励eBay将该项目贡献到Apache软件基金会(ASF),让它与其他大数据项目一起获得更好的发展,在经过一个月的紧张准备和撰写了无数个版本的项目建议书后,Kylin项目于2014年11月正式加入Apache孵化器项目,并由多位资深的社区活跃成员做项目导师。

在接下来的一年中,项目组再次做出了极大努力,包括按照Apache孵化器要求组建项目管理委员会(PMC)、建立项目网站、整理知识产权并签署必要协议、吸引外部开发者、发展多元化社区、发布多个正式版本等。2015年11月,Apache软件基金会宣布Apache Kylin正式成为顶级项目。

这是第一个完全由中国团队贡献到全球最大的开源软件基金会的顶级项目。项目负责人韩卿成为Apache Kylin项目管理委员会主席,也成为Apache软件基金会160多个顶级项目中的第一个中国人,Apache Kylin创造了历史。正如Kylin的导师,时任Apache孵化器副总裁的Ted Dunning在ASF官方新闻稿中评价的那样:“Apache Kylin代表了亚洲国家,特别是中国,在开源社区中越来越高的参与度。”

2016年3月,由Apache Kylin核心开发者组建的创业公司Kyligence正式成立。正如多数成功的开源项目背后都有一家创业公司一样(Hadoop领域有Cloudera、Hortonworks等;Spark有Databricks;Kafka有Confluent等),Kylin也可以通过Kyligence公司的进一步投入保证高速研发,并且Kylin的社区和生态圈也会得到不断的发展和壮大,可以预见这个开源项目将会越来越好。

在业界极具盛名的技术类独立评选中,InfoWorld的Bossie Award每年都会独立挑选和评论相关的技术、应用和产品等。2015年9月,Apache Kylin与Apache Spark、Apache Kafka、H2O、Apache Zeppelin等一同获得了2015年度“最佳开源大数据工具奖”。这是业界对Apache Kylin的充分认可和褒奖。2016年的InfoWorld获奖榜单进一步收窄,获奖者数量较前一年减少一半,一些新兴项目如Google领导的TensorFlow、Apache Beam崭露头角,值得骄傲的是,Apache Kylin再次登上领奖台,蝉联“最佳开源大数据工具奖”。

Apache Kylin在社区开发者的共同努力下进一步发展和完善,先后发布了1.6、2.0~2.5多个版本,涵盖近实时流、Spark引擎、RDBMS数据源、Cube Planner,支持Hadoop 3.0等众多新功能,还有一些新功能正在进行公开beta测试,如Parquet存储引擎、完全实时流数据等,预计在不远的将来会正式发布。同时,Apache Kylin用户群也在不断发展壮大,跨越亚洲、美洲、欧洲、澳洲等地。据粗略计算,全球已经有超过一千家企业将Apache Kylin用于自身的关键业务分析。