阿里云NoSQL X-Pack如何做到在线存储及计算一体?

HBase用户福利

新用户9.9元即可使用6个月云数据库HBase,更有低至1元包年的入门规格供广大HBase爱好者学习研究,更多内容请参考链接

大数据处理的挑战

随着企业数据的逐渐积累增多,数据架构从单节点的关系型数据库,演进到分库分表,再演进到NoSQL及hadoop生态。hadoop生态百花齐放,没有统一的架构标准,目前用的比较多的是Lambda架构,该架构主要特点为流计算、批处理、在线存储独立的,通过pipline来连接。


阿里云NoSQL X-Pack如何做到在线存储及计算一体?

大数据Lambda架构比较复杂,流、批、在线存储需要独立建设,同时需要构建数据pipline来做数据交换流动。
  • 数据写入:批处理、流处理、在线存储需要分别写入数据。一方面流及批两层需要独立写入数据,同时很多大数据业务数据也会直接写入mongoDB、Cassandra、HBase、Redis等NoSQL系统这样的在线存储系统。
  • 数据交换:批处理、在线存储之间交换需要构建大量ETL批作业
  • 数据质量:批处理、流处理、在线存储需要分别写入数据,会导致数据维护繁琐,不同写入链路的数据可能不一致
  • 系统稳定性:Lambda架构批计算层和在线存储层需要做频繁的数据交换,且都是批处理直接通过在线存储API抽取数据以及回流,大数据量场景会影响在线存储的稳定性

NoSQL X-Pack构建大数据在线存储及计算一体化架构

为了从架构上解决上面这些问题云X-Pack Spark提供了一键流式归档NoSQL数据库的日志到spark离线数仓的能力。写入mongoDB、Cassandra、HBase的在线存储明细数据,可以自动归档到Spark离线数仓然后做复杂计算、机器学习等。云X-Pack Spark产品文档

X-Pack Spark一键流式归档

X-Pack Spark 一键归档支持将 Cassandra、HBase、mongoDB数据通过增量日志方式归档到 X-Pack Spark 数据仓库(对在线业务稳定性无影响),在 X-Pack Spark集群进行数据计算性能大幅提升。整体架构如下:


阿里云NoSQL X-Pack如何做到在线存储及计算一体?

X-Pack Spark 一键归档模式推出了”大数据在线存储和计算一体化”架构,具有以下优点:

  • 数据一致性:避免双写;业务直接写NoSQL系统,数据自动归档到spark离线数仓
  • 稳定性:异步log同步到spark数仓,对NoSQL在线业务稳定性没有任何影响
  • 性能:spark分析列存,比直接分析NoSQL数据库性能大幅提升
  • 限制:目前X-Pack Spark一键流式归档上线支持了hbase,Phoenix、MongoDB、Cassandra敬请期待

归档数据计算

数据会周期的归档到spark的离线数仓(HiveMeta),然后可以直接在x-pack spark中查看数据以及计算


阿里云NoSQL X-Pack如何做到在线存储及计算一体?

阿里云NoSQL数据库其他动态

阿里云Cassandra数据库正式公测,提供免费试用:https://www.aliyun.com/product/cds

阿里云NoSQL X-Pack如何做到在线存储及计算一体?

上一篇:你晓得吗?大多数企业根本没有做到 DevOps!


下一篇:X-Pack Spark 监控指标详解