Spark su HBase con Spark shell

Sono necessari alcuni piccoli aggiustamenti per attaccare le tabelle HBase da un contesto Spark.

Per prima cosa creiamo rapidamente una tabella di esempio HBase "t1″ con 40 righe

[root@sandbox ~]# cat hbase_load.txt
create 't1', 'f1'
for i in '1'..'10' do \
for j in '1'..'2' do \
for k in '1'..'2' do \
rnd=(0...64).map { (65 + rand(26)).chr }.join
put 't1', "#{i}-#{j}-#{k}", "f1:#{j}#{k}", "#{rnd}"
end \
end \
end
[root@sandbox ~]# cat hbase_load.txt |hbase shell

Devi modificare il tuo percorso di classe Spark (necessario guava 14, quindi incluso il primo che avevo trovato):

[root@sandbox ~]# export SPARK_CLASSPATH=/usr/hdp/current/spark-client/lib/hbase-common.jar:/usr/hdp/current/spark-client/lib/hbase-client.jar:/usr/hdp/current/spark-client/lib/hbase-protocol.jar:/usr/hdp/current/spark-client/lib/hbase-server.jar:/etc/hbase/conf:/usr/hdp/2.3.2.0-2950/oozie/share/lib/spark/guava-14.0.1.jar

[root@sandbox ~]# spark-shell --master yarn-client

Come nota a margine, SPARK_CLASSPATH è deprecato in Spark 1.5.x+, quindi devi usare invece

[root@sandbox ~]# spark-shell --master yarn-client --driver-class-path=/usr/hdp/current/spark-client/lib/hbase-common.jar:/usr/hdp/current/spark-client/lib/hbase-client.jar:/usr/hdp/current/spark-client/lib/hbase-protocol.jar:/usr/hdp/current/spark-client/lib/hbase-hadoop2-compat.jar:/usr/hdp/current/spark-client/lib/hbase-server.jar:/etc/hbase/conf:/usr/hdp/2.3.2.0-2950/oozie/share/lib/spark/guava-14.0.1.jar

Mi sono imbattuto in bug usando il precedente:[…]Causato da:java.lang.IllegalStateException:dati di blocco non letti quindi ho usato la prima versione (usando SPARK_CLASSPATH)Ora è il momento di Scala!

scala>

import org.apache.hadoop.hbase.{HBaseConfiguration, HTableDescriptor}
import org.apache.hadoop.hbase.client.{HBaseAdmin, Result}
import org.apache.hadoop.hbase.io.ImmutableBytesWritable
import org.apache.hadoop.hbase.mapreduce.TableInputFormat

val tableName = "t1"
val hconf = HBaseConfiguration.create()
hconf.set(TableInputFormat.INPUT_TABLE, "t1")

val hBaseRDD = sc.newAPIHadoopRDD(hconf, classOf[TableInputFormat], classOf[ImmutableBytesWritable], classOf[Result])
println("records found : " + hBaseRDD.count())


[...]
2016-04-07 18:44:40,553 INFO [main] scheduler.DAGScheduler: Job 0 finished: count at <console>:30, took 2.092481 s
Number of Records found : 40

Se desideri utilizzare HBase Admin per visualizzare l'elenco delle tabelle, lo snapshot o qualsiasi operazione relativa all'amministratore, utilizzerai

scala> val admin = new HBaseAdmin(hconf)

admin.listTables

E se vuoi creare una tabella:

val tableDesc = new HTableDescriptor(tableName)
admin.createTable(tableDesc)