HADOOP 优化(4):MapReduce生产经验

8.1 MapReduce跑的慢的原因

MapReduce程序效率的瓶颈在于两点:

1)计算机性能

CPU、内存、磁盘、网络

2I/O操作优化

(1)数据倾斜

(2)Map运行时间太长,导致Reduce等待过久

(3)小文件过多

8.2 MapReduce常用调优参数

HADOOP 优化(4):MapReduce生产经验

 

 HADOOP 优化(4):MapReduce生产经验

 

 

8.3 MapReduce数据倾斜问题

1)数据倾斜现象

数据频率倾斜——某一个区域的数据量要远远大于其他区域。

数据大小倾斜——部分记录的大小远远大于平均值。

HADOOP 优化(4):MapReduce生产经验

2)减少数据倾斜的方法

1)首先检查是否空值过多造成的数据倾斜

生产环境,可以直接过滤掉空值;如果想保留空值,就自定义分区,将空值加随机数打散。最后再二次聚合。

2)能在map阶段提前处理,最好先在Map阶段处理。如:CombinerMapJoin

3)设置多个reduce个数

 

HADOOP 优化(4):MapReduce生产经验

上一篇:结构伪列选择器超详解!!!!


下一篇:photoshop设计制作出由文字组成的街舞招贴画效果