用hadoop大规模数据全局排序

狂欢‰一夜

　　使用hadoop进行大量的数据排序排序最直观的方法是把文件所有内容给map之后，map不做任何处理，直接输出给一个reduce，利用hadoop的自己的shuffle机制，对所有数据进行排序，而后由reduce直接输出。
　　然而这样的方法跟单机毫无差别，完全无法用到多机分布式计算的便利。因此这种方法是不行的。
　　利用hadoop分而治之的计算模型，可以参照快速排序的思想。在这里我们先简单回忆一下快速排序。快速排序基本步骤就是需要现在所有数据中选取一个作为支点。然后将大于这个支点的放在一边，小于这个支点的放在另一边。
　　设想如果我们有N个支点（这里可以称为标尺），就可以把所有的数据分成N+1个part，将这N+1个part丢给reduce，由hadoop自动排序，最后输出N+1个内部有序的文件，再把这N+1个文件首尾相连合并成一个文件，收工。
　　由此我们可以归纳出这样一个用hadoop对大量数据排序的步骤：
　　1）  对待排序数据进行抽样；
　　2）  对抽样数据进行排序，产生标尺；
　　3）  Map对输入的每条数据计算其处于哪两个标尺之间；将数据发给对应区间ID的reduce
　　4）  Reduce将获得数据直接输出。
　　这里使用对一组url进行排序来作为例子：

　　这里还有一点小问题要处理：如何将数据发给一个指定ID的reduce？hadoop提供了多种分区算法。这些算法根据map输出的数据的key来确定此数据应该发给哪个reduce（reduce的排序也依赖key）。因此，如果需要将数据发给某个reduce，只要在输出数据的同时，提供一个key（在上面这个例子中就是reduce的ID+url），数据就该去哪儿去哪儿了。
　　注意事项
　　1)         标尺的抽取应该尽可能的均匀，这与快速排序很多变种算法均是强调支点的选取是一致的。
　　2)         HDFS是一种读写性能很不对称的文件系统。应该尽可能的利用其读性能很强的特点。减少对写文件和shuffle操作的依赖。举例来说，当需要根据数据的统计情况来决定对数据的处理的时候。将统计和数据处理分成两轮map-reduce比将统计信息合并和数据处理都放到一个reduce中要快速的多。