2020年8月18日星期二

HBase~读写操作的过程

读和写是Hbase的两种常见的基本操作,这两种操作都会涉及到Hfile和Meta表,我们依次看看。

Hfile

HFile是Hbase在HDFS中存储数据的格式,它有如下特性:

  • 主标识是一个行健
  • key按照有序的方式进行存储
  • HFile仅仅分配给一个Region
  • 行存储在Hfile上面,通过排好序的KeyValue存储在磁盘上
  • 当MemStore超过它的限制的时候,会新产生一个HFile
  • 在搜索数据的时候,不需要加载整个Hfile,可以使用Hfile的多层索引
  • HDFS复制WAL和Hfile块,并且这是自动的
  • 在每个Hfile中,最高的序列号被存储为meta Field

Meta表

在读数据的时候,Hbase需要知道要访问那个Region Server,因此在读数据的时候需要通过Meta表。

  • Meta表也是一张Hbase的表,但是内部是一系列Region的信息
  • 它的结构如下:
  1. Key:Region起始的key,Region Id
  2. Value: RegionServer信息

读写流程

  1. 客户端首先会根据配置文件中zookeeper地址连接zookeeper,并读取//meta-region-server节点信息,该节点信息存储HBase元数据(hbase:meta)表所在的RegionServer地址以及访问端口等信息。用户可以通过zookeeper命令(get //meta-region-server)查看该节点信息。
  2. 根据hbase:meta所在RegionServer的访问信息,客户端会将该元数据表加载到本地并进行缓存。然后在表中确定待检索rowkey所在的RegionServer信息。
  3. 根据数据所在RegionServer的访问信息,客户端会向该RegionServer发送真正的数据读取请求。服务器端接收到该请求之后需要进行复杂的处理,具体的处理流程将会是这个专题的重点。
    读写流程图

scanner体系

RegionServer接收到客户端的get/scan请求之后,构建scanner体系(实际上就是做一些scan前的准备工作),在此体系基础上一行一行检索。

scanner体系的核心在于三层scanner:RegionScanner、StoreScanner以及StoreFileScanner。三者是层级的关系,如下:
  • 一个RegionScanner由多个StoreScanner构成,一张表由多个列族组成,就有多少个StoreScanner负责该列族的数据扫描。
  • 一个StoreScanner又是由多个StoreFileScanner组成。每个Store的数据由内存中的MemStore和磁盘上的StoreFile文件组成,相对应的,StoreScanner对象会雇佣一个MemStoreScanner和N个StoreFileScanner来进行实际的数据读取,每个StoreFile文件对应一个StoreFileScanner,注意:StoreFileScanner和MemstoreScanner是整个scan的最终执行者。
    scanner体系

HBase中KeyValue是什么样的结构?

HBase中KeyValue并不是简单的KV数据对,而是一个具有复杂元素的结构体,其中Key由RowKey,ColumnFamily,Qualifier ,TimeStamp,KeyType等多部分组成,Value是一个简单的二进制数据。Key中元素KeyType表示该KeyValue的类型,取值分别为Put/Delete/Delete Column/Delete Family等。KeyValue可以表示为如下图所示:
结构

参考HBase~读写操作的过程tenso跟我学速卖通基础操作跨境电商引爆站外流量技巧分享Jumia卖家注意:平台物流放假公告请查收!Wish A+物流计划相关服务信息大全(2020年7月更新版)Joom促销规则&参加流程&停止参加等详解2017年重阳节是什么时候?几月几号?2017年中秋什么时候赏月最好最美?2017年中秋什么时候的月亮是最圆最亮的?

没有评论:

发表评论