我正在尝试使用Spark中的HiveContext访问hive中映射的hbase表。但我得到了ClassNotFoundException
例外.. 下面是我的代码。
import org.apache.spark.sql.hive.HiveContext
val sqlContext = new HiveContext(sc)
val df = sqlContext.sql("select * from dbn.hvehbasetable")
我收到以下错误..
17/06/22 07:17:30 错误日志: initSerDe 中的错误: java.lang.ClassNotFoundException Class org.apache.hadoop.hive.hbase.HBaseSerDe 未找到 java.lang.ClassNotFoundException: Class org.apache.hadoop.hive.hbase.HBaseSerDe 未找到 at org.apache.hadoop.conf.Configuration.getClassByName(Configuration.java:2120) at org.apache.hadoop.hive.metastore.MetaStoreUtils.getDeserializer(MetaStoreUtils.java:385) at org.apache.hadoop.hive.ql.metadata.Table.getDeserializerFromMetaStore(Table.java:276) at org.apache.hadoop.hive.ql.metadata.Table.getDeserializer(Table.java:258) at org.apache.hadoop.hive.ql.metadata.Table.getCols(Table.java:605) at org.apache.spark.sql.hive.client.ClientWrapper$$anonfun$getTableOption$1$$anonfun$3.apply(ClientWrapper.scala:342) at org.apache.spark.sql.hive.client.ClientWrapper$$anonfun$getTableOption$1$$anonfun$3.apply(ClientWrapper.scala:337) 在斯卡拉。Option.map(Option.scala:145) at org.apache.spark.sql.hive.client.ClientWrapper$$anonfun$getTableOption$1.apply(ClientWrapper.scala:337) at org.apache.spark.sql.hive.client.ClientWrapper$$anonfun$getTableOption$1.apply(ClientWrapper.scala:332) at org.apache.spark.sql.hive.client.ClientWrapper$$anonfun$withHiveState$1.apply(ClientWrapper.scala:290) at org.apache.spark.sql.hive.client.ClientWrapper.liftedTree1$1(ClientWrapper.scala:237)
任何人都可以帮助我需要导入哪个类来读取 hbase 表。
我认为,如果你还没有这样做,你需要在类路径/auxpath中添加hive-hbase-handler
jar。
从这里获取您的版本。
让我知道这是否有帮助。干杯。