当前位置:首页 > 电脑基本技巧 > 正文内容

【电脑常识】Hadoop datanode重新加载失败无法启动现象解决方法介绍

six13年前 (2013-07-29)电脑基本技巧1524

笔者使用的是基于虚拟机的Hadoop分布式安装,由于关闭datanode和namenode的顺序不恰当,所以经常会出现datanode加载失败的情况。

本人的解决方法适用于首次已经成功启动整个集群,但是由于不正常的操作造成第二次无法正常启动。首次的启动失败可能原因有很多:可能是由于配置文件错误写入造成的,或是由于ssh无密码登陆配置错误造成。

而第二次的错误原因与首次启动的有一些区别,排错重点应该集中在程序在运行中的一些动态加载而生成的文件上,笔者要讨论的是第二种情况:

大多原因就是因为hadoop的datanode的VERSION文件中的namespaceID与namenode中的VERSION文件中的namespaceID二者出现不一致的情况。而namespaceID的生成笔者推断应该是在执行:hdfs namenode -format 这个命令的时候生成的。

解决步骤如下:

1,首先停掉namenode上相关的进程:切换到hadoop的/sbin目录下:

sh  stop-dfs.sh

sh stop-yarn.sh

2,切换到hadoop的相应/current目录下将current下的所有文件清除。

3,将datanode与namenode的/current 下VERSION等相应文件文件清除后,回到namenode上,执行hsfs namenode -format命令,接着切换到namenode的hadoop的/sbin目录下:

执行sh start-dfs.sh

sh start-yarn.sh

(旧版本的mapre  被新版本的yarn所替代,命令上多少有些不同)

既可以看到相应的节点成功加载。

相应的思想就是,当出错时,清除掉一切干扰思路的文件,然后整理思绪,重新开始,这样要远比在原地徘徊要好。

(由于我们在配置文件中指明的文件夹只有  hdfs tmp log,所以其余的文件也好文件夹也好都是动态执行脚本生成创建的,删除之后只要hadoop整个系统可以工作就会生成,即便错删,VM的 snapshot 也会拯救这个世界。)

本文转载于脚本之家https://www.jb51.net/

相关文章

【电脑常识】用电脑连接电视的办法详解 电脑视频输出到电视机(图文教程)

【电脑常识】用电脑连接电视的办法详解 电脑视频输出到电视机(图文教程)

  1.电视机上播放电脑里的影片,同时又不影响电脑使用.  2.画面达到DVD级别高清晰度,在大屏幕电视机上欣赏.安装简单30秒搞定 !!  3.可以舒舒服服躺在沙发上看影片.网上无限...

【电脑常识】WIFI是什么意思 WIFI上网的介绍与方法(图文)

【电脑常识】WIFI是什么意思 WIFI上网的介绍与方法(图文)

wifi是什么呢?wifi上网是什么意思?wifi是一种能够将个人电脑、手持设备(如PDA、手机)等终端以无线方式互相连接di技术。WiFi是一个无线网路通信技术di品牌,由Wi-Fi...

【电脑常识】怎么截屏?电脑屏幕常用截图方法大汇总 以及常用截图软件下载(图)

【电脑常识】怎么截屏?电脑屏幕常用截图方法大汇总 以及常用截图软件下载(图)

屏幕怎么截图:截图快捷键是按什么键?我们大家日常使用電腦都经常会使用到截图功能,针对不同啲截图要求,掌握相应啲截图方法能够大大我们啲工作效率,提现在我爱電腦网介绍有6种不同截图方法及其...

【电脑常识】修改照片用什么软件?常用的简单好用的照片修改软件推荐(图文)

【电脑常识】修改照片用什么软件?常用的简单好用的照片修改软件推荐(图文)

数码时代,我们经常使用手机、相机等设备拍摄大量的照片,但是对于普通人来说使用photoshop这类专业的软件来处理照片显然是不现实的,那么除了PS软件之外还有没有小巧一些的处理软件呢?...

【电脑常识】什么是病毒,电脑怎样预防及消灭病毒

什么是病毒,电脑怎样预防及消灭病毒?等等关于这类话题,众说纷纭。有人说,只要拥有了一套功能强大的杀毒软件便万事大吉;有人说,只要不上网就可抗拒病毒的侵害;还有人认为,只要定期格式化硬盘...

【电脑常识】电脑初学者(菜鸟)必需知道的60个电脑技巧

1、如果同时有多个窗口打开,想要关闭的话,可以按住shift不放然后点击窗口右上角的关闭图标。   2、在保存网页前,可以按一下"ESC"键(或脱机工作)再保存,这...