HBase建表函数createTable的几点说明

[复制链接]
admin 发表于 2019-2-27 15:13:15 | 显示全部楼层 |阅读模式
HBase建表函数提供了四个重载函数,分别是
[java] view plaincopyprint?
  • void createTable(HTableDescriptor desc)
  • void createTable(HTableDescriptor desc, byte[] startKey,byte[] endKey, int numRegions)
  • void createTable(HTableDescriptor desc, byte[][] splitKeys)
  • void createTableAsync(HTableDescriptor desc, byte[][] splitKeys)

这四个函数的相同点是都是根据表描述符来创建表。其中一个不同是钱三个函数式同步创建(也就是表没创建完,函数不返回)。而带Async的这个函数式异步的(后台自动创建表)。
第一个函数相对简单,就是创建一个表,这个表没有任何region。后三个函数是创建表的时候帮你分配好指定数量的region(提前分配region的好处,了解HBase的人都清楚,为了减少Split,这样能节省不少时间)
第二个函数是使用者指定表的“起始行键”、“末尾行键”和region的数量,这样系统自动给你划分region。根据的region数,来均分所有的行键。这个方法的问题是如果你的表的行键不是连续的,那样的话就导致有些region的行键不会用到,有些region是全满的。
所以HBase很人性的给了第三种和第四种方法。这两个函数是用户需要自己region的划分。这个函数的参数splitKeys是一个二维字节数据,行的最大数表示region划分数+1,列就表示region和region之间的行键。比如:
[java] view plaincopyprint?
  • byte[][] regions = new byte[][] {
  • Bytes.toBytes("A"),
  • Bytes.toBytes("D"),
  • Bytes.toBytes("G"),
  • Bytes.toBytes("K"),
  • Bytes.toBytes("O"),
  • Bytes.toBytes("T")
  • };

就表示有7个region(6+1),具体region表示的行键为:[java] view plaincopyprint?
  • [1] start key: , end key: A
  • [2] start key: A, end key: D
  • [3] start key: D, end key: G
  • [4] start key: G, end key: K
  • [5] start key: K, end key: O
  • [6] start key: O, end key: T
  • [7] start key: T, end key:

这个例子来源于HBase权威指南。
但是后三个函数,再建表时,如果region数过多,会报这个异常:
[java] view plaincopyprint?
  • 13/06/24 11:33:49 WARN client.HBaseAdmin: Creating x took too long

[java] view plaincopyprint?
  • java.net.SocketTimeoutException: Call to cloudgis4/192.168.3.7:60000 failed on socket timeout exception: java.net.SocketTimeoutException: 60000 millis timeout while waiting forchannel to be ready for read. ch : java.nio.channels.SocketChannel[connected local=/192.168.2.198:37133 remote=cloudgis4/192.168.3.7:60000]
  • at org.apache.hadoop.hbase.ipc.HBaseClient.wrapException(HBaseClient.java:802)
  • at org.apache.hadoop.hbase.ipc.HBaseClient.call(HBaseClient.java:775)
  • at org.apache.hadoop.hbase.ipc.HBaseRPC$Invoker.invoke(HBaseRPC.java:257)
  • at $Proxy4.createTable(Unknown Source)
  • at org.apache.hadoop.hbase.client.HBaseAdmin.createTableAsync(HBaseAdmin.java:405)
  • at org.apache.hadoop.hbase.client.HBaseAdmin.createTable(HBaseAdmin.java:317)
  • at GIS.Update.TestUpdate.testHBase(TestUpdate.java:181)
  • at GIS.Update.TestUpdate.main(TestUpdate.java:267)
  • Caused by: java.net.SocketTimeoutException: 60000 millis timeout while waiting for channel to be ready for read. ch : java.nio.channels.SocketChannel[connected local=/192.168.2.198:37133 remote=cloudgis4/192.168.3.7:60000]
  • at org.apache.hadoop.net.SocketIOWithTimeout.doIO(SocketIOWithTimeout.java:164)
  • at org.apache.hadoop.net.SocketInputStream.read(SocketInputStream.java:155)
  • at org.apache.hadoop.net.SocketInputStream.read(SocketInputStream.java:128)
  • at java.io.FilterInputStream.read(Unknown Source)
  • at org.apache.hadoop.hbase.ipc.HBaseClient$Connection$PingInputStream.read(HBaseClient.java:299)
  • at java.io.BufferedInputStream.fill(Unknown Source)
  • at java.io.BufferedInputStream.read(Unknown Source)
  • at java.io.DataInputStream.readInt(Unknown Source)
  • at org.apache.hadoop.hbase.ipc.HBaseClient$Connection.receiveResponse(HBaseClient.java:539)
  • at org.apache.hadoop.hbase.ipc.HBaseClient$Connection.run(HBaseClient.java:477)
  • Exception in thread "main" org.apache.hadoop.hbase.client.RegionOfflineException: Only 0of 1000 regions are online; retries exhausted.
  • at org.apache.hadoop.hbase.client.HBaseAdmin.createTable(HBaseAdmin.java:355)
  • at GIS.Update.TestUpdate.testHBase(TestUpdate.java:181)
  • at GIS.Update.TestUpdate.main(TestUpdate.java:267)


具体就是说建表超时了,google了好久也没找到解决办法。[java] view plaincopyprint?
  • createTableAsync

但是用第四个函数,尽管报异常,但是还是在后台把表建完,region数也正好
【智云杂货铺 bbs.0936sht.com】
回复 论坛版权

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则