Mysql
 sql >> Database >  >> RDS >> Mysql

Hive 1.2 Metastore Service non si avvia dopo averlo configurato per l'archiviazione S3 anziché HDFS

  1. Non puoi assolutamente mescolare le versioni di Hadoop-common, hadoop-aws, aws-s3-sdk e jackson da ciò che tutto si aspetta, altrimenti vedrai tracce di stack.
  2. Ed è tutto open source, quindi se esegui il D/L di tutti i JAR di origine localmente, il tuo IDE ti aiuterà a trovare la causa della traccia dello stack. Questo è ciò che facciamo tutti . Non è magico, gli IDE moderni (intellij IDEA) hanno persino uno speciale debug dello stack.

Questo sta arrivando perché il valore di fs.s3a.multipart.size impostato in /core-default.xml di hadoop-common la risorsa è 100 milioni, che è arrivata con HADOOP-13680 e i numeri di gestione dell'analisi dell'intervallo come "100M" anziché 104857600 . Questa traccia dello stack dice "Configurazione Hadoop 2.8+"

Potresti provare a impostare la proprietà nelle tue configurazioni su quel valore numerico, ma è un segnale di avvertimento che le versioni dei JAR non sono sincronizzate e probabilmente otterrai solo poche righe prima che qualcos'altro si interrompa.

Correzione:assicurati che hadoop-common.jar e hadoop-aws.jar sono sincronizzati. Sembra che tu abbia messo in fila Jackson e Aws, anche se Jackson è abbastanza complesso che non puoi mai darlo per scontato.