1、分布式环境搭建
采用4台安装Linux环境的机器来构建一个小规模的分布式集群。
图1 集群的架构
其中有一台机器是Master节点,即名称节点,另外三台是Slaver节点,即数据节点。这四台机器彼此间通过路由器相连,从而实验相互通信以及数据传输。它们都可以通过路由器访问Internet,实验网页文档的采集。
2、集群机器详细信息
2.1 Master服务器
名称 |
详细信息 |
机器名称 |
Master.Hadoop |
机器IP地址 |
192.168.1.2 |
最高用户名称(Name) |
root |
最用用户密码(PWD) |
hadoop(全小写) |
一般用户名称(Name) |
hadoop(全小写) |
一般用户密码(PWD) |
hadoop(全小写) |
2.2 Slave1服务器
名称 |
详细信息 |
机器名称 |
Slave1.Hadoop |
机器IP地址 |
192.168.1.3 |
最高用户名称(Name) |
root |
最用用户密码(PWD) |
hadoop(全小写) |
一般用户名称(Name) |
hadoop(全小写) |
一般用户密码(PWD) |
hadoop(全小写) |
2.3 Slave2服务器
名称 |
详细信息 |
机器名称 |
Slave2.Hadoop |
机器IP地址 |
192.168.1.4 |
最高用户名称(Name) |
root |
最用用户密码(PWD) |
hadoop(全小写) |
一般用户名称(Name) |
hadoop(全小写) |
一般用户密码(PWD) |
hadoop(全小写) |
2.4 Slave3服务器
名称 |
详细信息 |
机器名称 |
Slave3.Hadoop |
机器IP地址 |
192.168.1.5 |
最高用户名称(Name) |
root |
最用用户密码(PWD) |
hadoop(全小写) |
一般用户名称(Name) |
hadoop(全小写) |
一般用户密码(PWD) |
hadoop(全小写) |
备注:
添加新用户命令:useradd;修改新用户密码:passwd 用户名
退出当前用户:exit; 登录root用户:su –
3、集群机器实际布局
下面是几张Hadoop集群实际机器的部署情况,可以从图中看到那时的我们怎么实际配置Hadoop集群的。
3.1 Hadoop工作集群
该Hadoop集群机器是学习和研究之用,上面运行着已经搭建好的的Hadoop平台以及运行着一些实际程序。
图3.1-1 Hadoop工作集群部署图(1)
图3.1-2 Hadoop工作集群部署图(2)
上面从两个角度来分别观察Hadoop集群部署,作为Hadoop集群的Master节点,用的是机器较为不错的新Dell,而三台Slave机器则是实验室淘汰的旧Lenovo,用一个小路由器他们组成了一个局域网。
图3.1-3 路由器特写
3.2 Hadoop实验集群
为了方便新成员练习Hadoop技术,又防止在实际Hadoop集群上破坏已运行的程序,故另外弄了两台旧Lenovo电脑组成:一个"主——TMaster";一个"辅——TSlave"。
图3.2-1 Hadoop实验集群部署
上面就是实验室Hadoop集群的样子,虽然很简陋,但足够学习用了。
文章下载地址:http://files.cnblogs.com/xia520pi/HadoopCluster_Vol.2.rar
如果,您认为阅读这篇博客让您有些收获,不妨点击一下右下角的【推荐】。
如果,您希望更容易地发现我的新博客,不妨点击一下左下角的【关注我】。
如果,您对我的博客所讲述的内容有兴趣,请继续关注我的后续博客,我是【虾皮csAxp】。
本文版权归作者和博客园共有,欢迎转载,但未经作者同意必须保留此段声明,且在文章页面明显位置给出原文连接,否则保留追究法律责任的权利。
本文转自虾皮博客园博客,原文链接:http://www.cnblogs.com/xia520pi/archive/2012/05/16/2503837.html