一.准备Linux集群环境
-
准备3台CentOS7.3虚拟机
-
修改ip、hosts映射文件、主机名
- 使用hostnamectl set-hostname 主机名,设置主机名可以立即生效,不用重启机器,但要重开xshell窗口
-
关闭防火墙
systemctl stop firewalld systemctl disable firewalld
-
关闭selinux
临时关闭:setenforce 0 永久关闭(重启生效):vim /etc/selinux/config -> 改为disabled 查看状态:/usr/sbin/sestatus -v
-
配置ssh
ssh-keygen -t rsa ssh-copy-id hdp1:表示将公钥拷贝到hdp1,这样当前节点就可以免密访问hdp1
-
安装ntp服务
大数据中,很多服务都是需要实时和各节点通信,如zk、RegionServer。若各节点时差太大,就会导致服务停止 yum install ntp 对主机点: 修改/etc/ntp.conf文件,修改/etc/sysconfig/ntpd文件 systemctl start ntpd chkconfig ntpd on 对从节点: 设置定时任务:*/10 * * * * /usr/sbin/ntpdate hdp1
-
将yum源改为aliyun
yum install wget mv /etc/yum.repo.d/Centos-Base.repo /etc/yum.repo.d/Centos-Base.repo.bak wget -O /etc/yum.repo.d/Centos-Base.repo http://mirrors.aliyun.com/repo/Centos-7.repo yum clean all yum makecache
-
安装httpd服务
yum install httpd systemctl start httpd chkconfig httpd on 将文件放到/var/www/html下,此时就可以在网页上使用ip/文件名访问到 若显示错误,注意看看是否有index.html文件,删除即可
二.安装ambari(主节点)
-
安装jdk(所有节点)
-
安装mysql
1.卸载 mariadb 2.下载rpm文件进行安装,libs、common、client、server 3.启动mysql server:systemctl start mysqld 4.设置为弱密码: set global validate_password_policy=LOW; set global validate_password_length=6; SHOW VARIABLES LIKE 'validate_password%'; 5.修改密码:ALTER USER 'root'@'localhost' IDENTIFIED BY '111111'; 6.取消mysql IP限制: grant all PRIVILEGES on *.* to root@'%' identified by '111111'; 目的是让所有IP都可以登录到mysql,而不仅仅限制于本机(装mysql的机器) 7.flush privileges;
-
创建ambari用户及数据库
CREATE USER 'ambari'@'%' IDENTIFIED BY '自定义密码111111'; GRANT ALL PRIVILEGES ON *.* TO 'ambari'@'%'; FLUSH PRIVILEGES; create database ambari default character set utf8;
-
安装ambari
镜像安装: 1.上传ambari HDP HDP-GPL HDP-UTILS四个组件到/var/www/html下 2.修改ambari/HDP/HDP-GPL.repo镜像文件,并复制到/etc/yum.repo.d/下 3.清除yum缓存:yum clean all (yum 会把下载的软件包和header存储在cache中,而不自动删除) 4.对软件包信息进行缓存:yum makecache (提高 搜索、安装软件的速度) 组件安装: 1.yum install ambari-server.x86_64 -y 2.将mysql-connector-java.jar复制到/usr/share/java下 3.修改配置文件: echo server.jdbc.driver.path=/usr/share/java/mysql-connector-java.jar >> /etc/ambari-server/conf/ambari.properties 4.安装ambari:(选择数据库为mysql) ambari-server setup (--jdbc-db=mysql --jdbc-driver=/usr/share/java/mysql-connector-java.jar) 根据提示选择选项 5.启动ambari:ambari-server start 删除SMARTSENSE:find / -name SMARTSENSE|xargs,再rm -rf
-
安装hive
数据库配置: create database hive character set utf8 ; CREATE USER 'hive'@'%'IDENTIFIED BY '111111'; GRANT ALL PRIVILEGES ON *.* TO 'hive'@'%'; FLUSH PRIVILEGES;
后续再补充~~
参考文档:
https://mp.weixin.qq.com/s?__biz=MzU3MTc1NzU0Mg==&mid=2247483940&idx=1&sn=7c35e51f61458ac5f92909a05012fb99&scene=19#wechat_redirect