设为首页 收藏本站
查看: 700|回复: 0

[经验分享] Hadoop升级步骤cdh3u3到cdh3u6

[复制链接]

尚未签到

发表于 2016-12-6 08:27:26 | 显示全部楼层 |阅读模式
  8月份的时候做了下hadoop的升级,小版本升级
  参考文档:http://wiki.apache.org/hadoop/Hadoop_Upgrade
  原文地址:http://blog.csdn.net/lxpbs8851/article/details/12968997
  在此做一个记录:
  从版本 hadoop-0.20.2-cdh3u3 升级到 hadoop-0.20.2-cdh3u6
  步骤如下:
  1.备份namenode信息
  #hadoop dfs –lsr / >/opt/namenode_back/namenode-lsr-v-old.log
  #hadoop fsck / >/opt/namenode_back/namenode-fsck-v-old.log
  前面2项用于升级之后对数据的对比
  #cp –r ${dfs.name.dir} /opt/ namenode_back/name/
  备份namenode的meta数据,用户升级失败后的恢复
  2.关闭旧集群,上传最新稳定版本cdh3u6,配置各个文件:core、hdfs、mapred、master、slaves,也可以使用先前的配置文件,根据当前版本的情况来决定是否要对配置文件做修改,配置hadoop-env.sh
  3.将配置好的新版本目录分发给集群中所有的机器节点,注意文件目录的所属用户,若不同则用chown进行修改。
  4.将老版本${dfs.name.dir}目录下的文件拷贝到新版本${dfs.name.dir}的目录下面,要是新老版本的目录一样,可以不要拷贝
  5.开始更新操作:
  #${NEW_HADOOP_HOME}/bin/start-dfs.sh–upgrade
  使用如下命令进行监控,查看是否升级完成:
  #$ { NEW_HADOOP_HOME }/bin/hadoop dfsadmin -upgradeProgressstatus
  出现Upgrade for version - hadoop-0.20.2-cdh3u6 has been completed.的提示即完成了升级。
  6.修改环境变量:
  在root用户下修改。
  #vi /etc/profile
  主要是修改$HADOOP_HOME
  7.启动新集群
  #${NEW_HADOOP_HOME}/bin/start-all.sh
  8.生成新的信息:
  #hadoop fs –lsr / >/opt/namenode_back/namenode-lsr-v-new.log
  #hadoop fsck / >/opt/namenode_back/namenode-fsck-v-new.log
  对比1中2个old-log 若信息不符合(丢失最要数据),可以选择回滚。
  9.回滚操作:
  #${NEW_HADOOP_HOME}/bin/stop-all.sh
  #${NEW_HADOOP_HOME}/bin/start-dfs.sh –rollback
  改回环境变量,
  #${OLD_HADOOP_HOME}/bin/start-all.sh

运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表,该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有,请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意,请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息,一经发现立即删除。若您因此触犯法律,一切后果自负,我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责,亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏,不得用于商业或者其他用途,否则,一切后果均由您自己承担,我们对此不承担任何法律责任
7、如涉及侵犯版权等问题,请您及时通知我们,我们将立即采取措施予以解决
8、联系人Email:admin@iyunv.com 网址:www.yunweiku.com

所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其承担任何法律责任,如涉及侵犯版权等问题,请您及时通知我们,我们将立即处理,联系人Email:kefu@iyunv.com,QQ:1061981298 本贴地址:https://www.iyunv.com/thread-310218-1-1.html 上篇帖子: hadoop 往dfs上传文件时报错 下篇帖子: hadoop_rpc之RPC(4)
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

扫码加入运维网微信交流群X

扫码加入运维网微信交流群

扫描二维码加入运维网微信交流群,最新一手资源尽在官方微信交流群!快快加入我们吧...

扫描微信二维码查看详情

客服E-mail:kefu@iyunv.com 客服QQ:1061981298


QQ群⑦:运维网交流群⑦ QQ群⑧:运维网交流群⑧ k8s群:运维网kubernetes交流群


提醒:禁止发布任何违反国家法律、法规的言论与图片等内容;本站内容均来自个人观点与网络等信息,非本站认同之观点.


本站大部分资源是网友从网上搜集分享而来,其版权均归原作者及其网站所有,我们尊重他人的合法权益,如有内容侵犯您的合法权益,请及时与我们联系进行核实删除!



合作伙伴: 青云cloud

快速回复 返回顶部 返回列表