查看: 815|回复: 0

[经验分享] hadoop学习顺序【转】

尚未签到

发表于 2016-12-8 07:02:22 | 显示全部楼层 |阅读模式

hadoop学习顺序
第一先会配置安装一个HD 10分钟
第二会用HDFS的API
第三会用已有MR 写一个Job 一个Job除了有提交方法外其他都是Configuration决定的
第四会重写多数的类达到你的功能 RecordWriter/Reader FileInput/OutPutFormat MapReduce 搞懂他们的启动顺序以及实现抽象类和接口的必要方法和它们的作用
第五重新配置安装HD 这次你需要做HA 多集群一大堆的东西
第六搞懂Configuration XML里至少80%条目的意义
第七学基本的Pig Hive并且查看他们的源码怎么调用MR的
第八看Mahout源码看他们每个算法利用了MR的什么天然特性
第九根据你所知的东西看HD源码搞懂至少 .conf .hdfs .fs .io .mapred .mapreduce .jobcontrol .compress .util 里面的各个class 其实一个包里的东西不多平均10个左右的class 每个class基本不超过500行代码风格非常号
第十照着HD 包装自己公司的至少以上分布式系统（小弟能力有限做不不了）
我认为如果做开发不做运维的话当他是个文件系统做运维就搞懂第六条

运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表，该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有，请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意，请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息，一经发现立即删除。若您因此触犯法律，一切后果自负，我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集，我们仅提供一个展示、介绍、观摩学习的平台，我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责，亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏，不得用于商业或者其他用途，否则，一切后果均由您自己承担，我们对此不承担任何法律责任
7、如涉及侵犯版权等问题，请您及时通知我们，我们将立即采取措施予以解决
8、联系人Email：admin@iyunv.com 网址：www.yunweiku.com

所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其承担任何法律责任,如涉及侵犯版权等问题,请您及时通知我们,我们将立即处理,联系人Email:kefu@iyunv.com,QQ:1061981298 本贴地址：https://www.iyunv.com/thread-311062-1-1.html 上篇帖子： Hadoop基本的Map/Reduce 下篇帖子： Hadoop深入学习：OutputFormat组件

使用道具举报