设为首页 收藏本站
查看: 995|回复: 0

[经验分享] hadoop平台的搭建

[复制链接]

尚未签到

发表于 2016-12-6 11:06:33 | 显示全部楼层 |阅读模式
                        云计算入门——搭建hadoop平台
云计算这个词在之前就听说过,最早听说这个词的时候第一感觉是好高端,第二感觉是估计很枯燥需要很高深的算法。因此最早对他是没什么兴趣的。最近读了许多关于IT方面的书,才发现云计算根本不是我想象的那样,云计算的范围之广,涉及之深,用途之大,让我顿时发现了一个新的世界,在云的世界里,只要有个浏览器,一个终端,你几乎能实现任何事情。我就和峰哥说,我想搞云计算。峰哥说好啊 ,先搭建好hadoop平台。我就带着一腔热情和懵懂,开始了大数据第一步,搭建hadoop平台。
一开始我还以为很简单,和JDK一样只要安装下就好了。后来才知道真尼玛难装啊。。。
首先,hadoop必须在linux下才能搭建,所以首先要安装Linux系统,这里我不推荐大家用虚拟机或者用wubi的一键安装,这样安装的根本不能叫双系统,因为我用的是Ubuntu的图形界面,所以我推荐大家下个Ubuntuiso镜像然后用硬盘安装双系统。
http://www.iyunv.com/Linux/2013-10/91565.htm
这里是我当初看的教程大家可以按着上面的步骤来,然后再推荐大家下个分区助手,用来安装系统时修改分区用。然后记得Ubuntu的镜像最好去官网下。其他的教程里有详细说明我就不多说了毕竟教程还配图了。
     安装完Linux之后这只是搭建云计算平台的第一步,后面步骤还多着呢,再分享一个教程
http://weixiaolu.iyunv.com/blog/1401931
这里详细并且有图文的介绍了安装的过程,我就不多说了,就说几点自己安装过程中的注意点:
1.所有的不管是jdk文件还是hadoop的压缩文件,最好都在linux平台下下载,因为如果从windows拷贝过去的话有时候会出现二进制编码的问题,而且一定要去官网下载!反正都是免费的只是有时候会需要注册,你就注册就好。
2.按照教程走的时候我的第一次是卡在了安装jdk上面,首先教程里面的文件夹的位置或者文件夹的名字不同版本的系统可能不一样,所以不要全信教程里面的内容,很多文件夹自己用cd指令去看看说不定就发现了。
3.Jdk的版本一定要看清楚了,有i587,i386,x64,后缀还有.bin .rmp.的不同格式,一般来说64位机都选x64的,i5,i3主要根据你的cpu来定,后缀主要看你是ubuntu还是小红帽的图形界面,反正我的ubuntu是可以运行.bin后缀的。
4.之后安装教程走的时候一般会卡在最后一个运行hadoop的环节,这里我当初start-all.sh文件找了好久,后面才发现Ubuntu新版本区分了bin sbin两个文件夹,需要的在sbin文件夹下。
   注意点一时也就想起这么多毕竟我也是刚接触hadoop,接下来先跑几个demo来熟悉下,再开始团队的云计算之路。搭建的过程中会遇到各种未知的问题,像我之前从来没接触过linux,上面的指令一个都不会,都是一步步摸索的,最后总结经验,就是善于利用百度和google,现在这个互联网时代知识不需要我们储存在脑子里,有网络就够了,重要的是你寻找答案和信息的能力,学习也是这样,其实很多事情自己就能完成,不到山穷水尽不要麻烦他人,百度,google,图书馆都是可以利用的资源,当你通过自己能力搭建或完成时,你会发现自己对 hadoop才真正有了点理解,否则别人帮你搭建你永远不懂得hadoop的含义,毕竟这是一个全新的领域,不像以前我们码的代码,学习android还可以利用以前的java基础,云计算就不一样了,起码hadoop是我以前从没接触甚至听说过的。
总的来说hadoop的搭建让我学会了很多,可能很多人觉得这没有写一个游戏或者一个网站来的好玩,但是现在给我的感觉(也可能是我想多了)就是那些网站或者游戏,也或许是我之前写的网站或android游戏或项目,和云计算比都不算什么了,才大一的我应该做点有挑战的事情,搞云计算,处理大数据,毕竟以后数据才是最值钱的,然后自己带一个团队,我想当十几台计算机一起跑一个项目处理数据的时候,当最后处理结果出来的时候,那种成就感比起任何感觉都畅快。
 

运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表,该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有,请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意,请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息,一经发现立即删除。若您因此触犯法律,一切后果自负,我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责,亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏,不得用于商业或者其他用途,否则,一切后果均由您自己承担,我们对此不承担任何法律责任
7、如涉及侵犯版权等问题,请您及时通知我们,我们将立即采取措施予以解决
8、联系人Email:admin@iyunv.com 网址:www.yunweiku.com

所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其承担任何法律责任,如涉及侵犯版权等问题,请您及时通知我们,我们将立即处理,联系人Email:kefu@iyunv.com,QQ:1061981298 本贴地址:https://www.iyunv.com/thread-310481-1-1.html 上篇帖子: VM下Hadoop集群配置 下篇帖子: 【转】用Maven构建Hadoop项目
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

扫码加入运维网微信交流群X

扫码加入运维网微信交流群

扫描二维码加入运维网微信交流群,最新一手资源尽在官方微信交流群!快快加入我们吧...

扫描微信二维码查看详情

客服E-mail:kefu@iyunv.com 客服QQ:1061981298


QQ群⑦:运维网交流群⑦ QQ群⑧:运维网交流群⑧ k8s群:运维网kubernetes交流群


提醒:禁止发布任何违反国家法律、法规的言论与图片等内容;本站内容均来自个人观点与网络等信息,非本站认同之观点.


本站大部分资源是网友从网上搜集分享而来,其版权均归原作者及其网站所有,我们尊重他人的合法权益,如有内容侵犯您的合法权益,请及时与我们联系进行核实删除!



合作伙伴: 青云cloud

快速回复 返回顶部 返回列表