设为首页 收藏本站
查看: 2475|回复: 0

[经验分享] Hadoop配置小结

[复制链接]

尚未签到

发表于 2016-12-4 11:01:13 | 显示全部楼层 |阅读模式
  配置Hadoop环境有几天了,虽说“装”了Ubuntu有两年了,不过这次用硬盘安装还是把系统搞崩溃了,而且是在装Ubuntu之前分盘时弄崩溃了,而且是因为搬电脑时震了一下,然后又采取了很不明智的解决方法——还原系统,而且还一不小心还原了整个盘,200多G的东西瞬间没了,就为了分20G的东西出来装Ubuntu,而且是我好不容易挤出来的20G啊。我的壁纸都有好几G啊,我的音乐也有几十G啊,我保留了好久的演唱会舍不得删啊,虽然这跟主题无关,但我还是不得不吐啊 DSC0000.gif
  吐完回归正题,如果有跟我一样的新手的话,可以看一下,希望能帮上忙。
  在Ubuntu下配置Hadoop的步骤其实很简单
  1,安装Ubuntu
  2,安装配置JDK
  3,配置ssh
  4,剩下就是安装配置hadoop了
  安装教程网上很多,在这里就不重复了。
  这几天一直照着网上的教程,敲了很多不懂的命令,多亏了其他几位已经装过hadoop的同学,遇到的问题都能很快解决,今天是配置好了hadoop集群,明天就可开始测试了。不过今天先小结,有的命令用过很多次了,虽然知道是什么用,也只是知其然,下面总结一下在配置时用到的命令和一些问题
  sudo 是linux系统管理指令,是允许系统管理员让普通用户执行一些或者全部的root命令的一个工具
  apt-get   是一条linux命令,适用于deb包管理式的操作系统,主要用于自动从互联网的软件仓库中搜索、安装、升级、卸载软件或操作系统
  ssh-keygen 用来生成密钥和私钥文件,如果把a的密钥添加到b的authorized_keys中,那么a就可以登录b的目标帐号,不用输入密码,配置hadoop时,要让master能控制slave机器,所以要把master的密钥复制到所有的slave机器
  scp 是用来远程复制文件,配置ssh时就是把master机器的密钥复制到slave机器上 scp master@masterIP:/home/master/.ssh/id_rsa.pub  /home/slave/.ssh/masterNo_rsa.pub
  cat  把文档或字符串打印或合并添加到另一个文件,我就是在添加密钥时不小心少打了一个">"覆盖掉了之前添加的密钥。一个是直接输入到另一个文件,两个是添加到文件末。cat masterNo_rsa.pub >> authorized_keys
  这样就可以在master机器来控制slave机器了,那么这样的话其实先在每台机器上配置好ssh,然后写个脚本来循环控制每台机器配置jdk和hadoop(如果之前没装的话),这样的话就不用每台机器去配置了。
  vi 是所有linux都会有的编辑器,因为老是遇到gtk warning,现在还没弄清楚这个问题,用vi 还是比较直接的方法。

运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表,该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有,请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意,请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息,一经发现立即删除。若您因此触犯法律,一切后果自负,我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责,亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏,不得用于商业或者其他用途,否则,一切后果均由您自己承担,我们对此不承担任何法律责任
7、如涉及侵犯版权等问题,请您及时通知我们,我们将立即采取措施予以解决
8、联系人Email:admin@iyunv.com 网址:www.yunweiku.com

所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其承担任何法律责任,如涉及侵犯版权等问题,请您及时通知我们,我们将立即处理,联系人Email:kefu@iyunv.com,QQ:1061981298 本贴地址:https://www.iyunv.com/thread-309491-1-1.html 上篇帖子: 搭建hadoop环境,执行wordcount 下篇帖子: hadoop pig vertica
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

扫码加入运维网微信交流群X

扫码加入运维网微信交流群

扫描二维码加入运维网微信交流群,最新一手资源尽在官方微信交流群!快快加入我们吧...

扫描微信二维码查看详情

客服E-mail:kefu@iyunv.com 客服QQ:1061981298


QQ群⑦:运维网交流群⑦ QQ群⑧:运维网交流群⑧ k8s群:运维网kubernetes交流群


提醒:禁止发布任何违反国家法律、法规的言论与图片等内容;本站内容均来自个人观点与网络等信息,非本站认同之观点.


本站大部分资源是网友从网上搜集分享而来,其版权均归原作者及其网站所有,我们尊重他人的合法权益,如有内容侵犯您的合法权益,请及时与我们联系进行核实删除!



合作伙伴: 青云cloud

快速回复 返回顶部 返回列表