首页 / 新闻

11.

25

2013

星环发布支持Spark和Hadoop2大数据软件

公司新闻

新浪科技:11月22日——2013年中国Hadoop技术峰会,继10月底Hadoop技术领域最大的公司美国Cloudera公司宣布和DataBricks合作,提供Apache Spark计算框架的技术支持之后,本地大数据平台软件公司星环信息科技(上海)有限公司(以下简称"星环科技")率先在国内推出一款大数据平台产品TranswarpData Hub,融合Apache Spark和Apache Hadoop2.0,提供全面本地化的技术支持。

"由于移动互联网和互联设备的发展,企业数据每年成倍的增长,所以Hadoop技术从一开始就受到广泛的关注,"星环科技联合创始人,CTO孙元浩表示,"大型企业和政府机构纷纷尝试使用Hadoop来解决大量复杂数据的存储和查询问题,同时寻求更好性价比的软硬件组合。Apache Hadoop作为一个分布式计算框架和存储引擎极好的满足了这一方面的需求。可以说Hadoop具备成为未来企业数据的"操作系统"或"Data Hub"的条件。而同时企业原有的众多基于SQL开发的应用和复杂的数据集也对Hadoop及其周围软件提出了更大的挑战"

大数据平台软件需要同时支持海量数据存储和高速分析能力

大数据的四大特征——海量的数据规模(volume)、快速的数据流转和动态的数据体系(velocity)、多样的数据类型(variety)和巨大的数据价值(value)。

目前,HDFS加Map Reduce的组合很好的解决了海量数据规模和多样的数据类型的问题,但在对高速的数据查询需求、不同数据规模的场景下对应用的灵活支持还有很大的提升空间。Apache Spark作为下一代Map/Reduce计算框架,充分利用了内存加速,很好的解决了交互式查询和迭代式机器学习的效率问题。Transwarp Data Hub通过对Apache Spark和Apache Hadoop2.0的支持,使用优化内存处理技术,能10x/100x级别的提升Hadoop平台的性能。

对多种应用场景和数据压力的支持

同时通过对新的框架的整合和优化处理技术,Transwarp Data Hub扩大了Hadoop的应用领域和处理不同数据压力的能力,适合处理从GB到PB级别的数据。目前适用于离线分析,统计/挖掘;在线的存储和OLAP系统;以及在线的基于内存的高速分析。

"Apache Hadoop的广泛使用还需要和传统数据处理工具的整合,才能给解决方案供应商,应用开发商提供方便,形成更完整的体系,使用户受益。"孙元浩还表示:"所以我们在开发Transwarp Data Hub同时,就寻求和更多的数据处理和分析工具厂商合作和整合。目前已经和Revolution R,Informatica,Tableau实现了对接。

"Transwarp Data Hub已经在一些重点的客户领域进行测试和使用,已经有十几个软件和硬件合作伙伴,我们希望通过我们的技术创新能获得更多的客户。"

与国内ISV,方案商全面合作

在市场方面,星环科技推出合作伙伴支持计划,真诚希望与各行业的ISV、系统集成商、Hadoop服务商展开深入、双赢、长期的合作. 希望产品能为合作伙伴带来新的大数据商机,新的客户,和丰厚长期的回报。这次推出的本土合作伙伴计划,提出了9条具体的对合作伙伴的支持方案。

IT168的企业级总编洪钊峰主持了发布会以及现场的嘉宾互动环节,星环科技的战略合作伙伴Revolution R 亚太区总经理Laurence Liew、DataBricks初创员工、Spark核心成员Reynold Xin、BDAS Tachyon作者李浩源博士、恒为总经理沈振宇、Informatica大中华区首席架构师但彬齐聚一堂,与大家分享了他们对大数据时代机遇和挑战以及产业未来发展的看法。

在谈到跟星环科技的合作时,DataBricks 初创员工,Spark核心成员辛湜(Reynold Xin)介绍道:"星环公司专注Spark技术的研发,是AMP Lab以及Databricks在国内的技术合作伙伴,大家一起为Spark技术的发展贡献力量。"

Revolution Analytics的亚太区总经理Laurence Liew说:"Revolution R是目前全球最好的R语言商业化软件,国内率先与星环公司成为战略合作伙伴,利用Transwarp Data Hub和Spark,可以为客户提供交互式的数据探索、统计和挖掘能力。"

Informatica的大中国区首席架构师但彬说:"Informatica作为目前全球领先的老牌数据集成软件供应商,也在积极探索大数据技术和应用,非常荣幸能与星环公司成为战略合作伙伴,帮助国内大数据客户实现从传统架构迁移至Transwarp Data Hub的Hadoop大数据平台,提供从GB到PB级的数据存储和处理能力。"

AMP Lab的李浩源博士提到了星环科技和AMP Lab在Tachyon上的技术合作。他认为,从学术界的观点来看,过去五六年大数据发展非常快,如今Hadoop已非常流行,其无论在硬件还是软件方面都有了非常大的突破。我们希望能在学术界创造更多有意义的软件,为工业界提供基础,可以把这些基础进一步夯实、并且能够涌现像星环科技这样的科技公司,促进新技术的商业化,从而带动行业发展。

关于星环科技

星环信息科技(上海)有限公司是一家高科技大数据创业公司。致力于大数据基础软件的研发,包括Apache Hadoop 2.0, 并超越Hadoop,提供高于开源Hadoop版本10x~100x倍性能提升的基于Apache Spark的大数据分析平台,可处理GB到PB级别的数据。星环科技同时提供存储、分析和挖掘大数据的高效数据平台和服务,立志成为国内外领先的大数据基础技术厂商,目前处于快速成长期。星环公司已经在国内建立多个大数据应用案例,也是hadoop创新应用的开拓者。

星环科技的初创团队来自著名外企,公司联合创始人孙元浩是国内最早研发和推广Hadoop技术的国际级资深专家。孙元浩曾是英特尔Hadoop发行版的创始人,带领团队研发企业级Hadoop发行版,以满足不同行业对Hadoop的功能需求。孙元浩及其团队在中国成功建立数十个Hadoop成功案例,积极推动了大数据方案在中国的落地和实施。孙元浩2013年离开英特尔创办星环科技,致力于Hadoop之上的高效计算引擎和数据分析算法的个规格研发。