我应该使用PIG将数据从HIVE加载到HBase中,还是有更好的方法?



我必须从HIVE加载数据到HBase表中。我知道有很多方法可以做到这一点,例如:

  • 从HIVE生成CSV,然后使用bulk load将其转换为HFile加载数据
  • 使用MapReduce生成HFile
  • 使用PIG脚本生成和加载HFile
  • 或者有直接转换器可用吗?

你能给我推荐最好的方法吗?

我们不使用phoenix

您可以使用HBASE集成:

CREATE TABLE hbase_table_1(key int, value string) 
STORED BY 'org.apache.hadoop.hive.hbase.HBaseStorageHandler'
WITH SERDEPROPERTIES ("hbase.columns.mapping" = ":key,cf1:val")
TBLPROPERTIES ("hbase.table.name" = "xyz");

然后将数据加载到Hive表中,也将加载HBase,因为是同一个表。

最新更新