4.HDFS集群—搭建集群分布式

hadoop分布式搭建

完全分布式结构
host NN SNN DN
tongyuzhe1 *
tongyuzhe2 * *
tongyuzhe3 *
tongyuzhe4 *
hadoop配置目录
如果出现启动失败,就把/tmp和配置文件目录还有hadoop软件文件夹都删除
全部重新弄
#进入hadoop配置目录
cd $HADOOP_HOME/etc/hadoop
角色启动位置
#hadoop配置文件千万不能有空行之类的
NameNode启动位置
#修改文件
vi core-site.xml 

#在<configuration>内添加
<property>
	<name>fs.defaultFS</name>
	<value>hdfs://tongyuzhe1:9000/</value>
</property>
DataNode启动位置
vi slaves

#添加主机名
tongyuzhe2
tongyuzhe3
tongyuzhe4
SecondaryNameNode启动位置
#修改文件
vi hdfs-site.xml

#在<configuration>内添加
<property>
	<!--修改SecondaryNameNode主机-->
	<name>dfs.namenode.secondary.http-address</name>
	<value>tongyuzhe2:50090</value>
</property>
角色启动细节
#修改文件
vi hdfs-site.xml 

#在<configuration>内添加
文件块副本数
<!--完全分布式分布式,我们可以设置成2块副本-->
<property>
	<name>dfs.replication</name>
	<value>2</value>
</property>
NameNode存放位置
<property>
	<!--指定namenode存放的文件夹-->
	<name>dfs.namenode.name.dir</name>
	<!--这里我们换一个新的目录,local换成full-->
	<value>/var/bigdata/hadoop/full/dfs/name</value>
</property>
DataNode存放位置
<property>
	<!--指定datanode存放的文件夹-->
	<name>dfs.datanode.data.dir</name>
	<!--这里我们换一个新的目录,local换成full-->
	<value>/var/bigdata/hadoop/full/dfs/data</value>
</property>
SecondaryNameNode存放位置
<property>
	<!--修改SecondaryNameNode目录-->
	<name>dfs.namenode.checkpoint.dir</name>
	<!--这里我们换一个新的目录,local换成full-->
	<value>/var/bigdata/hadoop/full/dfs/secondary</value>
</property>
内容分发
scp -r /opt/bigdata/hadoop-2.6.5/etc/hadoop/ tongyuzhe4:/opt/bigdata/hadoop-2.6.5/etc/
格式化启动
#只在NameNode节点格式化启动
#初始化
#会创建目录
#初始化一个空的fsimage
#创建VERSION配置文件,随机分配个CID
hdfs namenode -format
上一篇:20万DBA都在关注的12个问题 [转载]


下一篇:删除dgbroker