首页 / 新闻

12.

09

2015

可构建数据仓库,数据集市和实时数据分析的大数据平台TDH 4.3发布

公司新闻

在2个月的等待以后,星环科技推出了全新的Transwarp Data Hub 4.3版本。全新的版本包含多项创新的功能,并在系统稳定性和性能上做了进一步的提升,可以满足各种数据量的数据业务的需求。Transwarp Inceptor开始支持DB2 SQL/PL,是业界首个同时支持Oracle PL/SQL和DB2 SQL/PL的大数据平台;推出全新组件Stargate,可以接入多种数据源参与实时数据分析,解决数据孤岛问题;支持实时数据同步工具,可应用于实时数据分析市场;Transwarp Stream增强了Stream SQL的兼容性,支持在流上进行SQL应用开发,且支持99%的SQL 99标准,极大降低了流应用开发的门槛。Transwarp Discover增加并完善对DataFrame的接口支持,让数据挖掘编程更加便利。

 

Transwarp Inceptor

Transwarp Inceptor 4.3在产品结构上做了重大升级,包含8大核心组件功能,其中新组件Stargate可以让多数据源的数据实时进入Inceptor参与计算,Guardian提供更加完备的多租户管理功能,其他6大组件也都有较大的升级。

 

全新的多数据源管理组件Stargate可以连接包括Oracle/DB2/Mysql/Teradate等数据库和数据平台,并兼容DBLink语法,可以将多种不同数据源的数据接入Inceptor引擎做实时的统计分析而无需事先将数据导入HDFS从而更加方便用户的业务构建多样化需求。

 

PL/SQL Compiler迎来重大升级,支持80%的DB2 SQL/PL和其他SQL扩展,包括完整的数据类型、流程控制、Package、游标、异常处理以及动态SQL执行并且支持在存储过程中做高速统计增删改查与分布式事务操作。Inceptor是首个同时支持Oracle PL/SQL和DB2 SQL PL两大主流SQL模块化扩展的大数据平台。

 

Transwarp Inceptor在分布式引擎上也做了重要的提升在超大量数据分析上取得重要突破。Inceptor 4.3能够在29台普通两路x86服务器上运行100TB的TPC-DS基准数据分析测试,完整运行99个分析业务只需要40小时,无论数据量还是性能均超过国内外其他平台,表明Inceptor在系统健壮性,性能和可扩展性方面已经达到国际一流水平。

 

Inceptor推出了全新的多租户管理组件Guardian提供完整的多租户管理功能包括租户CPU/内存/磁盘等资源管理租户权限管理以及安全控制等,支持LDAP认证和底层Kerberos加密。此外,Guardian支持Row Level Security,允许管理员同一张数据给不同的租户做精确的行级权限控制,从而保证数据的私密性和安全性,适应更多场景数据管理的需求。

 

在和数据工具的兼容整合方面,Inceptor也取得重要进展,能够对接IBM CDC和Oracle Golden Gate等数据同步工具,可以实时的将交易数据库的更新同步到数据仓库中做交互式分析业务。

 

在分布式事务方面,Inceptor在性能和可用性方面也做了重要提升,批量的Update/Merge Into的性能提升2~3倍,而小数据量的增改的延时降低了5倍以上。

 

Transwarp Stream

Transwarp Stream 4.3推出了新的SQL编译器,支持用户以Stream SQL,Scala和Java API来开发流处理应用,极大降低了流应用开发的门槛。Stream SQL支持99% 的SQL 99语法标准,支持ANSI SQL 2003 OLAP核心扩展,可以满足流应用开发的业务需求;支持按数据字段时间切分滑动窗口和跳动窗口,用户可以通过与SQL 2003兼容的Window语法来创建滑动窗口或者跳动窗口并在窗口上进行各种复杂的聚合操作。此外,Stream 4.3支持包括Socket文件以及Kafka等在内的多种流输入方式,支持包括Hyperbase,HDFS以及Holodesk等输出方式,支持企业数据总线应用,保证有灵活的多场景适用性。此外,支持用户通过SQL来管理Application和Stream Job,方便应用的运维和管理工作。

 

Transwarp Discover

为了给开发人员提供更友好的R编程接口,Discover在R编程接口做了重要升级。Discover对HDFS上读取的数据及sql中获取的数据增加DataFrame的支持,允许在DataFrame上做聚合操作,并且支持包括RDD、sql抽象出来的Table等在内的多种输入数据类型。

 

在基础组件方面,Discover也做了一些升级。R版本升级到3.2.2,R Studio升级到0.98.486。此外Discover中内置的Spark的版本升级到1.5.1。

 

Transwarp Manager

为了更加方便运维操作,Transwarp Manager 4.3支持对管理角色做迁移,防止Master节点故障导致平台不能服务,目前支持Zookeeper,NameNode,Resource Manager和HMaster的管理角色迁移。此外,Manager 4.3还提供多项实用功能,包括Inceptor客户端jar包下载,命令行服务监控工具等功能,方便用户各种场景下的运维需求。

 

Transwarp Manager 4.3增加了对Redhat/CentOS 7.1 on Power的支持,因此TDH可以非常便捷地部署在IBM Power服务器平台上。

 

星环科技是目前国内极少数掌握大数据核心技术的高科技公司,专注于企业级大数据核心平台数据库软件的研发与服务。公司产品Transwarp Data Hub (TDH)以其业界最完整的SQL on Hadoop支持; 独特的对分布式ACID数据一致性支持;以及对SSD优化提高集群性价比等特点,比肩硅谷同行。产品的功能和性能在业界处于领先水平。在全球去IOE的大背景下,TDH已成为在数据仓库,数据集市等领域替代传统数据库公认的大数据产品。