NameNode工作线程之dnthread解析

1、dnthread的任务该线程执行的是DecommissionMonitor退役监测,即DataNode节点退役或停用。它定时地检测正在退役的datanode中Blocks的状态,当这些Blocks都满足副本因子之后,才能将该DataNode节点置为退役状态。 2、监测机制  由于需要检测全部的DataNode,然后DataNode又比较多,所以采用迭代的步长检测,每次只检测处于正在退役状态的numNodesPerCheck个数据节点,下次检测时就从上次检测的的最后一个数据节点开始,而这两次检测的时间间隔是recheckIntervals,又为了保证检测的连续性,所以检测的数据构成一个环形数据结构,然后需要记录每次迭代的起始点,所以有个firstkey属性,然后环形数据结构由hadoop自己实现的CyclicIteration来提供(其实就是首尾数据相连)。 3、实现逻辑 a、判断节点是否处于DECOMMISSION_INPROGRESS状态; b、如果处于DECOMMISSION_INPROGRESS状态,则检测该节点上的所有数据块是否已经到了复制因子; c、如果已经到了复制因子块的个数则说明这个节点上的所有块都是多余了,也就是说这个节点可以退役了,将节点状态设置为退役。

NameNode工作线程之dnthread解析,布布扣,bubuko.com

NameNode工作线程之dnthread解析

上一篇:我对线程条件变量的初步探究


下一篇:python实现批量文件内容替换