我是靠谱客的博主 诚心冰淇淋,最近开发中收集的这篇文章主要介绍hadoop namenode启动不了_hadoop报错QAQ,觉得挺不错的,现在分享给大家,希望可以做个参考。

概述

前言

对于学习的过程来说,报错是一个不容跳过的步骤,把遇到的问题记录下来,以后遇到了也可以回来查看,本文章长期更新。

Q:Call From node1/192.168.200.11 to node1:9000 failed on connection exception?

今天启动了Hadoop集群之后,发现输入hdfs dfs -ls / 命令,居然出现以上报错。

这个时候咋办呢?按照描述说是900端口拒绝链接了。于是我把整个集群给停掉了,然后单独启动了hdfs,然后jps看了一下,发现namenode没有启动,于是我找到了namenode的日志,其中有这么一句报错

java.io.IOException: There appears to be a gap in the edit log.  We expected txid 1, but got txid 10.
        at org.apache.hadoop.hdfs.server.namenode.MetaRecoveryContext.editLogLoaderPrompt(MetaRecoveryContext.java:94)
        at org.apache.hadoop.hdfs.server.namenode.FSEditLogLoader.loadEditRecords(FSEditLogLoader.java:215)
        at org.apache.hadoop.hdfs.server.namenode.FSEditLogLoader.loadFSEdits(FSEditLogLoader.java:143)
        at org.apache.hadoop.hdfs.server.namenode.FSImage.loadEdits(FSImage.java:843)
        at org.apache.hadoop.hdfs.server.namenode.FSImage.loadFSImage(FSImage.java:698)
        at org.apache.hadoop.hdfs.server.namenode.FSImage.recoverTransitionRead(FSImage.java:294)
        at org.apache.hadoop.hdfs.server.namenode.FSNamesystem.loadFSImage(FSNamesystem.java:975)
        at org.apache.hadoop.hdfs.server.namenode.FSNamesystem.loadFromDisk(FSNamesystem.java:681)
        at org.apache.hadoop.hdfs.server.namenode.NameNode.loadNamesystem(NameNode.java:585)
        at org.apache.hadoop.hdfs.server.namenode.NameNode.initialize(NameNode.java:645)
        at org.apache.hadoop.hdfs.server.namenode.NameNode.<init>(NameNode.java:812)
        at org.apache.hadoop.hdfs.server.namenode.NameNode.<init>(NameNode.java:796)
        at org.apache.hadoop.hdfs.server.namenode.NameNode.createNameNode(NameNode.java:1493)
        at org.apache.hadoop.hdfs.server.namenode.NameNode.main(NameNode.java:1559)
2019-08-23 17:25:24,577 INFO org.mortbay.log: Stopped HttpServer2$SelectChannelConnectorWithSafeStartup@0.0.0.0:50070
2019-08-23 17:25:24,687 INFO org.apache.hadoop.metrics2.impl.MetricsSystemImpl: Stopping NameNode metrics system...
2019-08-23 17:25:24,688 INFO org.apache.hadoop.metrics2.impl.MetricsSystemImpl: NameNode metrics system stopped.
2019-08-23 17:25:24,688 INFO org.apache.hadoop.metrics2.impl.MetricsSystemImpl: NameNode metrics system shutdown complete.
2019-08-23 17:25:24,689 ERROR org.apache.hadoop.hdfs.server.namenode.NameNode: Failed to start namenode.

大致意思就是edit-log文件损坏了,于是,就修复了一下吧!

执行这个命令:

hadoop namenode -recover

然后一路选择Y,等结束之后,我再启动hdfs,发现namenode可以启动了,也不报错了。

2.Q:java.lang.NoClassDefFoundError: org/apache/hadoop/hbase/client/Scan

今天在执行mapreduce程序从habse到hbase的时候,出现如下报错:

[hadoop@node1 bigdata]$ hadoop jar hbase-1.0-SNAPSHOT.jar com.cn.hbase.integration.HBaseMR t1 t2 
Exception in thread "main" java.lang.NoClassDefFoundError: org/apache/hadoop/hbase/client/Scan
        at com.cn.hbase.integration.HBaseMR.main(HBaseMR.java:69)
        at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)
        at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:62)
        at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43)
        at java.lang.reflect.Method.invoke(Method.java:498)
        at org.apache.hadoop.util.RunJar.run(RunJar.java:221)
        at org.apache.hadoop.util.RunJar.main(RunJar.java:136)
Caused by: java.lang.ClassNotFoundException: org.apache.hadoop.hbase.client.Scan
        at java.net.URLClassLoader.findClass(URLClassLoader.java:382)
        at java.lang.ClassLoader.loadClass(ClassLoader.java:424)
        at java.lang.ClassLoader.loadClass(ClassLoader.java:357)
        ... 7 more

经过网上查询,发现从这里找到答案:

https://hbase.apache.org/book.html#mapreduce

第48项:

d0d4a4225f6ee2032da96463f82c6f3a.png

然后我用下面的命令执行了一下就可以了:

HADOOP_CLASSPATH=`hbase classpath` hadoop jar hbase-1.0-SNAPSHOT.jar com.cn.hbase.integration.HBaseMR t1 t2 

后续操作:

经过了上面之后发现是可以了,但是每次都如此,太烦了,究根问底是依赖没有被打入jar包,所以把下面的依赖加入进去就行了。

<build>
        

最后

以上就是诚心冰淇淋为你收集整理的hadoop namenode启动不了_hadoop报错QAQ的全部内容,希望文章能够帮你解决hadoop namenode启动不了_hadoop报错QAQ所遇到的程序开发问题。

如果觉得靠谱客网站的内容还不错,欢迎将靠谱客网站推荐给程序员好友。

本图文内容来源于网友提供,作为学习参考使用,或来自网络收集整理,版权属于原作者所有。
点赞(32)

评论列表共有 0 条评论

立即
投稿
返回
顶部