本机环境规划及说明：

① k8s环境规划：

podSubnet（pod网段） 10.244.0.0/16
serviceSubnet（service网段）: 10.10.0.0/16

② 主机和ip规划 （云主机）一台Master和一台node，后面资源不够时再添加

操作系统：Centos7.6
配置： 4核8G、100G数据盘（Master 4C8G，node 2核4G，前期可以练习使用，后期可以再进行配置升级）
开启虚拟机的虚拟化：

1、初始化实验环境

1.1 配置静态ip
1.2 修改yum源
1.2.1 备份原来的 yum 源
mv /etc/yum.repos.d/CentOS-Base.repo /etc/yum.repos.d/CentOS-Base.repo.backup
1.2.2 下载阿里的 yum 源
wget -O /etc/yum.repos.d/CentOS-Base.repo http://mirrors.aliyun.com/repo/Centos-7.repo
1.2.3 配置安装 k8s 需要的 yum 源

cat <<EOF > /etc/yum.repos.d/kubernetes.repo
[kubernetes]
name=Kubernetes
baseurl=https://mirrors.aliyun.com/kubernetes/yum/repos/kubernetes-el7-x86_64
enabled=1
gpgcheck=0
EOF

1.2.4 清理 yum 缓存
yum clean all
1.2.5 生成新的 yum 缓存
yum makecache fast
1.2.6 更新 yum 源
yum -y update
1.2.7 安装软件包
yum -y install wget net-tools nfs-utils lrzsz gcc gcc-c++ make cmake libxml2-devel openssl-devel curl curl-devel unzip sudo ntp libaio-devel wget vim ncurses-devel autoconf automake zlib-devel python-devel epel-release openssh-server socat ipvsadm conntrack ntpdate yum-utils device-mapper-persistent-data lvm2

1.2.8 添加新的软件源
yum-config-manager --add-repo http://mirrors.aliyun.com/docker-ce/linux/centos/docker-ce.repo
1.2.9 清理 yum 缓存
yum clean all
1.2.10 生成新的 yum 缓存
yum makecache fast
1.3 配置防火墙

关闭 firewalld 防火墙，在 k8s 各个节点都要关闭，centos7 系统默认使用的是 firewalld 防火墙，停止
firewalld 防火墙，并禁用这个服务。
在 k8s 的各个节点操作如下命令。
systemctl stop firewalld && systemctl disable firewalld
1.4 时间同步chrony

1. 在 k8s 的各个节点使用yum安装chrony时间服务
   yum install -y chrony
2. 编辑/etc/chrony.conf文件修改啊时间同步地址，可以百度搜索一个，也可以直接设置成ntp1.aliyum.com同步阿里的时间服务器地址
3. 把chrony服务设置为开机自启动并启动服务
   systemctl enable chronyd && systemctl start chronyd

1.5 关闭 selinux
k8s 的各个节点都要关闭 selinux。
关闭 selinux，设置永久关闭，这样重启机器 selinux 也处于关闭状态可用下面方式修改：

sed -i   ‘s/SELINUX=enforcing/SELINUX=disabled/‘ /etc/sysconfig/selinux 
sed -i   ‘s/SELINUX=enforcing/SELINUX=disabled/g‘ /etc/selinux/config

上面文件修改之后，需要重启虚拟机，如果测试环境可以用如下命令强制重启：
reboot -f
注：生产环境不要 reboot -f，要正常关机重启

查看 selinux 是否修改成功
重启之后登录到机器上用如下命令：
getenforce
显示 Disabled 说明 selinux 已经处于关闭状态

1.6 关闭交换分区
在 k8s 的各个节点操作如下命令。
swapoff -a
临时禁用
sed -i ‘s/.*swap.*/#&/‘ /etc/fstab
#永久禁用，打开/etc/fstab 注释掉 swap 那一行。

1.7 修改内核参数

在 k8s 的各个节点操作如步骤。

cat <<EOF > /etc/sysctl.d/k8s.conf 
net.bridge.bridge-nf-call-ip6tables = 1
net.bridge.bridge-nf-call-iptables = 1 
EOF
sysctl --system

注：sysctl --system 这个会加载所有的 sysctl 配置

此功能如果不开启，后面在kubeadm初始化k8s时就会报错：

就表示没有开启ip_forward，需要开启。
为什么要开启net.ipv4.ip_forward = 1参数？
net.ipv4.ip_forward是数据包转发：
出于安全考虑，Linux系统默认是禁止数据包转发的。所谓转发即当主机拥有多于一块的网卡时，其中一块收到数据包，根据数据包的目的ip地址将数据包发往本机另一块网卡，该网卡根据路由表继续发送数据包。这通常是路由器所要实现的功能。
要让Linux系统具有路由转发功能，需要配置一个Linux的内核参数net.ipv4.ip_forward。这个参数指定了Linux系统当前对路由转发功能的支持情况；其值为0时表示禁止进行IP转发；如果是1,则说明IP转发功能已经打开。

1.8 修改主机名

在 192.168.1.56 上：
hostnamectl set-hostname master1
在 192.168.1.79 上：
hostnamectl set-hostname node1

1.9 配置 hosts 文件
K8s 各个节点 hosts 文件保持一致即可，可按如下方法修改：
在/etc/hosts 文件增加如下几行：

[root@k8s-master1 ~]# cat /etc/hosts
192.168.1.56   master1 k8s-master1
192.168.1.79   node1   k8s-node1

1.10 配置各个主机之间无密码登陆
配置 master1 到 node1 无密码登陆
在 master1 上操作

[root@k8s-master1 ~]# ssh-keygen  #一直回车就可以
[root@k8s-master1 ~]# ssh-copy-id  node1
#上面需要输入 yes 之后，输入密码，输入 node1 物理机密码即可

8 安装 docker
在 k8s 的各个节点都需要安装docker，安装方法按如下操作即可：
1.1 查看 docker 版本
yum list docker-ce --showduplicates |sort -r
1.2 安装 docker

yum install -y docker-ce-19.03.7-3.el7
systemctl enable docker && systemctl start docker

#查看 docker 状态，如果状态是 active（running），说明 docker 是正常运行状态
systemctl status docker

1.3 修改 docker 配置文件

cat > /etc/docker/daemon.json <<EOF
{
"registry-mirrors":["https://rsbud4vc.mirror.aliyuncs.com","https://registry.docker-cn.com","https://docker.mirrors.ustc.edu.cn","https://dockerhub.azk8s.cn","http://hub-mirror.c.163.com","http://qtid6917.mirror.aliyuncs.com"],
"exec-opts":["native.cgroupdriver=systemd"], "log-driver":"json-file",
"log-opts": {
"max-size": "100m"
},
"storage-driver":"overlay2",
"storage-opts": [ "overlay2.override_kernel_check=true"
]
}
EOF

注：
"registry-mirrors":["https://rsbud4vc.mirror.aliyuncs.com","https://registry.docker.cn.com","https://docker.mirrors.ustc.edu.cn","https://dockerhub.azk8s.cn","http://hub-mirror.c.163.com","http://qtid6917.mirror.aliyuncs.com"]
上面配置的是镜像加速器
如果有harbor镜像仓库可以按如下方法加一个字段，指定镜像仓库地址

cat > /etc/docker/daemon.json <<EOF
{
"insecure-registries":["192.168.0.56"],
"registry-mirrors":["https://rsbud4vc.mirror.aliyuncs.com","https://registry.docker- cn.com","https://docker.mirrors.ustc.edu.cn","https://dockerhub.azk8s.cn","http://hub- mirror.c.163.com","http://qtid6917.mirror.aliyuncs.com"],
"exec-opts":["native.cgroupdriver=systemd"], "log-driver":"json-file",
"log-opts": {
"max-size": "100m"
},
"storage-driver":"overlay2", "storage-opts": [
"overlay2.override_kernel_check=true"
]
} 
EOF

"insecure-registries":["192.168.0.56"]	#配置的是 harbor 私有镜像仓库地址

1.4 重启 docker 使配置生效
systemctl daemon-reload && systemctl restart docker && systemctl status docker
1.5 开启机器的 bridge 模式
以下步骤在 k8s 各个节点都需要操作
#临时生效
echo 1 > /proc/sys/net/bridge/bridge-nf-call-iptables echo 1 >/proc/sys/net/bridge/bridge-nf-call-ip6tables
#永久生效

echo """
vm.swappiness = 0
net.bridge.bridge-nf-call-iptables = 1
net.ipv4.ip_forward = 1
net.bridge.bridge-nf-call-ip6tables = 1 
""" > /etc/sysctl.conf
sysctl -p

1.6 开启 ipvs
不开启 ipvs 将会使用 iptables，但是效率低，所以官网推荐需要开通 ipvs 内核，
在 k8s 的各个节点都需要开启

cat > /etc/sysconfig/modules/ipvs.modules <<EOF
#!/bin/bash
ipvs_modules="ip_vs ip_vs_lc ip_vs_wlc ip_vs_rr ip_vs_wrr ip_vs_lblc ip_vs_lblcr ip_vs_dh ip_vs_sh ip_vs_nq ip_vs_sed ip_vs_ftp nf_conntrack"
for kernel_module in \${ipvs_modules}; 
do
/sbin/modinfo -F filename \${kernel_module} > /dev/null 2>&1 
if [ $? -eq 0 ]; then
	/sbin/modprobe \${kernel_module} 
fi
done 
EOF

chmod 755 /etc/sysconfig/modules/ipvs.modules && bash /etc/sysconfig/modules/ipvs.modules && lsmod | grep ip_vs

显示如下，说明 ipvs 开启成功了：

安装 kubernetes 高可用集群

1.1 在 master1 和 node1 上安装 kubeadm 和 kubelet

yum install kubeadm-1.19.6 kubelet-1.19.6 kubectl-1.19.6 -y 
systemctl enable kubelet

初始化 k8s 集群

在 k8s 的 master1 节点操作

kubeadm init --kubernetes-version=v1.19.6 --pod-network-cidr=10.244.0.0/16 --apiserver-advertise-address=192.168.1.56 --image-repository registry.aliyuncs.com/google_containers

注：
1）
--image-repository registry.aliyuncs.com/google_containers 是指定阿里云的镜像源，国内的镜像源访问速度会比较快，
--kubernetes-version=v1.19.6 是指定 k8s 版本，基于这个我们可以安装任何版本的 k8s。
2）
如果大家机器访问网络比较慢，可以在执行 kubeadm init --kubernetes-version=v1.19.6 --pod- network-cidr=10.244.0.0/16 --apiserver-advertise-address=192.168.40.130 --image-repository registry.aliyuncs.com/google_containers
这串命令之前把 aliyun-kubernetes-master-1-19-6.tar.gz 上传到 k8s 的 master1 节点，
通过 docker load -i aliyun-kubernetes-master-1-19-6.tar.gz手动解压，把 aliyun-kubernetes-slave-1-19-6.tar.gz 上传到 k8s 的 node1 节点，
通过 docker load -i aliyun-kubernetes-slave-1-19-6.tar.gz 手动解压。

初始化命令执行成功之后显示如下内容，说明初始化成功了

[root@k8s-master1 ~]# kubeadm init --kubernetes-version=v1.19.6 --pod-network-cidr=10.244.0.0/16 --apiserver-advertise-address=192.168.1.56 --image-repository registry.aliyuncs.com/google_containers # 命令输出
W0829 15:12:17.476712   19429 configset.go:348] WARNING: kubeadm cannot validate component configs for API groups [kubelet.config.k8s.io kubeproxy.config.k8s.io]
[init] Using Kubernetes version: v1.19.6
[preflight] Running pre-flight checks
[preflight] Pulling images required for setting up a Kubernetes cluster
[preflight] This might take a minute or two, depending on the speed of your internet connection
[preflight] You can also perform this action in beforehand using ‘kubeadm config images pull‘
[certs] Using certificateDir folder "/etc/kubernetes/pki"
[certs] Generating "ca" certificate and key
[certs] Generating "apiserver" certificate and key
[certs] apiserver serving cert is signed for DNS names [k8s-master1 kubernetes kubernetes.default kubernetes.default.svc kubernetes.default.svc.cluster.local] and IPs [10.96.0.1 192.168.1.56]
[certs] Generating "apiserver-kubelet-client" certificate and key
[certs] Generating "front-proxy-ca" certificate and key
[certs] Generating "front-proxy-client" certificate and key
[certs] Generating "etcd/ca" certificate and key
[certs] Generating "etcd/server" certificate and key
[certs] etcd/server serving cert is signed for DNS names [k8s-master1 localhost] and IPs [192.168.1.56 127.0.0.1 ::1]
[certs] Generating "etcd/peer" certificate and key
[certs] etcd/peer serving cert is signed for DNS names [k8s-master1 localhost] and IPs [192.168.1.56 127.0.0.1 ::1]
[certs] Generating "etcd/healthcheck-client" certificate and key
[certs] Generating "apiserver-etcd-client" certificate and key
[certs] Generating "sa" key and public key
[kubeconfig] Using kubeconfig folder "/etc/kubernetes"
[kubeconfig] Writing "admin.conf" kubeconfig file
[kubeconfig] Writing "kubelet.conf" kubeconfig file
[kubeconfig] Writing "controller-manager.conf" kubeconfig file
[kubeconfig] Writing "scheduler.conf" kubeconfig file
[kubelet-start] Writing kubelet environment file with flags to file "/var/lib/kubelet/kubeadm-flags.env"
[kubelet-start] Writing kubelet configuration to file "/var/lib/kubelet/config.yaml"
[kubelet-start] Starting the kubelet
[control-plane] Using manifest folder "/etc/kubernetes/manifests"
[control-plane] Creating static Pod manifest for "kube-apiserver"
[control-plane] Creating static Pod manifest for "kube-controller-manager"
[control-plane] Creating static Pod manifest for "kube-scheduler"
[etcd] Creating static Pod manifest for local etcd in "/etc/kubernetes/manifests"
[wait-control-plane] Waiting for the kubelet to boot up the control plane as static Pods from directory "/etc/kubernetes/manifests". This can take up to 4m0s
[apiclient] All control plane components are healthy after 15.002119 seconds
[upload-config] Storing the configuration used in ConfigMap "kubeadm-config" in the "kube-system" Namespace
[kubelet] Creating a ConfigMap "kubelet-config-1.19" in namespace kube-system with the configuration for the kubelets in the cluster
[upload-certs] Skipping phase. Please see --upload-certs
[mark-control-plane] Marking the node k8s-master1 as control-plane by adding the label "node-role.kubernetes.io/master=‘‘"
[mark-control-plane] Marking the node k8s-master1 as control-plane by adding the taints [node-role.kubernetes.io/master:NoSchedule]
[bootstrap-token] Using token: njtz23.0rq9a629zab3rsf9
[bootstrap-token] Configuring bootstrap tokens, cluster-info ConfigMap, RBAC Roles
[bootstrap-token] configured RBAC rules to allow Node Bootstrap tokens to get nodes
[bootstrap-token] configured RBAC rules to allow Node Bootstrap tokens to post CSRs in order for nodes to get long term certificate credentials
[bootstrap-token] configured RBAC rules to allow the csrapprover controller automatically approve CSRs from a Node Bootstrap Token
[bootstrap-token] configured RBAC rules to allow certificate rotation for all node client certificates in the cluster
[bootstrap-token] Creating the "cluster-info" ConfigMap in the "kube-public" namespace
[kubelet-finalize] Updating "/etc/kubernetes/kubelet.conf" to point to a rotatable kubelet client certificate and key
[addons] Applied essential addon: CoreDNS
[addons] Applied essential addon: kube-proxy

Your Kubernetes control-plane has initialized successfully!

To start using your cluster, you need to run the following as a regular user:

  mkdir -p $HOME/.kube
  sudo cp -i /etc/kubernetes/admin.conf $HOME/.kube/config
  sudo chown $(id -u):$(id -g) $HOME/.kube/config

You should now deploy a pod network to the cluster.
Run "kubectl apply -f [podnetwork].yaml" with one of the options listed at:
  https://kubernetes.io/docs/concepts/cluster-administration/addons/

Then you can join any number of worker nodes by running the following on each as root:

kubeadm join 192.168.1.56:6443 --token njtz23.0rq9a629zab3rsf9     --discovery-token-ca-cert-hash sha256:f59119cf40b5470120d98a69506164328b5cfbc9bc973d71e9b187b58210a830

注：kubeadm join ... 这条命令需要记住，我们把 k8s 的 node1 节点加入到集群需要在这些节点节点输入这条命令，每次执行这个结果都是不一样的，大家记住自己执行的结果，在下面会用到

1.3 在 master1 节点授权，这样才能有权限操作 k8s 资源

mkdir -p $HOME/.kube
sudo cp -ifr /etc/kubernetes/admin.conf $HOME/.kube/config 
sudo chown $(id -u):$(id -g)  $HOME/.kube/config

注： 我们下面执行 kubectl 的命令都是在 k8s 的 master1 节点操作

在 master1 节点执行
kubectl get nodes

显示如下，master1 节点是 NotReady

NAME          STATUS        ROLES       AGE      VERSION
master1     NotReady     master     103s    v1.19.6
kubectl get pods -n kube-system
显示如下，可看到 cordns 是处于 pending 状态
NAME	READY     STATUS       RESTARTS    AGE
coredns-6d56c8448f-ccb8n	0/1	Pending	0	100s coredns-6d56c8448f-dpklb	0/1	Pending	0	100s

注意：上面可以看到 STATUS 状态是 NotReady，cordns 是 pending，是因为没有安装网络插件，需要安装 calico 或者 flannel，接下来我们安装 calico，在 master1 节点安装calico 网络插件：

安装 calico 需要的镜像是 quay.io/calico/cni:v3.5.3 和 quay.io/calico/node:v3.5.3手动上传上面两个镜像的压缩包到 master1 和 node1 节点，在master1 和 node1 上通过 docker load -i 解压

docker load -i   cni.tar.gz
docker load -i   calico-node.tar.gz

1.4 在 master1 节点安装 calico 网络插件

注意：calico.yaml 里需要修改如下内容：
找到 IP_AUTODETECTION_METHOD 对应的 value 值：

- name: IP_AUTODETECTION_METHOD
value: "can-reach=192.168.1.56"

#这个 ip 写你自己环境的 node1 节点的 ip，假如 node 节点有多个，那么只写一个 node 节点 ip 即可，所以大家只需要写 node1 的 ip 即可

更新yaml 文件：
kubectl apply -f calico.yaml

1.5 查看 node 节点和coredns的pod 状态，在 master1 节点执行

kubectl get nodes
显示如下，看到 STATUS 是 Ready
NAME	STATUS	ROLES	AGE	VERSION
master1	Ready	master	8m19s	v1.19.6 
kubectl get pods -n kube-system
看到 cordns 也是 running 状态，说明 master1 节点的calico 安装完成

1.6 把 node1 节点加入到 k8s 集群，在 node1 节点操作

注：下面的这个是把 node1 节点加入到 k8s 的一串命令，下面的这串命令就是初始化的时候生成的，每个人的都不一样

kubeadm join 192.168.1.56:6443 --token njtz23.0rq9a629zab3rsf9     --discovery-token-ca-cert-hash sha256:f59119cf40b5470120d98a69506164328b5cfbc9bc973d71e9b187b58210a830

上面命令执行之后，出现如下图所示，说明 node1 节点已经加入到 k8s 集群：

1.7 在 master1 节点查看集群节点状态

kubectl get nodes

显示如下：

看到上面 STATUS 状态是 Ready，说明 node1 节点也加入到 k8s 集群了，通过以上就完成了 k8s 单master 节点高可用集群的搭建

kubectl get cs

显示如下:

看到 cotroller-manager 和 scheduler 是 Unhealthy，按如下方面解决：

vim /etc/kubernetes/manifests/kube-scheduler.yaml
修改如下内容： 
把   --bind-address=127.0.0.1 
变成 --bind-address=192.168.1.56
把 httpGet:字段下的 host 25和39行
由 127.0.0.1 
变成 192.168.1.56
把—-port=0 注释

#注意：192.168.1.56 是 k8s 的 master1 节点 ip

vim /etc/kubernetes/manifests/kube-controller-manager.yaml 
把   --bind-address=127.0.0.1 
变成 --bind-address=192.168.1.56
把—-port=0 注释
把 httpGet:字段下的 hosts 
由 127.0.0.1 
变成 192.168.1.56
修改之后在 k8s 各个节点执行
systemctl restart kubelet

kubectl get cs
显示如下:
```bash
[root@k8s-master1 kubenetes-han]# kubectl get cs
Warning: v1 ComponentStatus is deprecated in v1.19+
NAME                 STATUS    MESSAGE             ERROR
scheduler            Healthy   ok
controller-manager   Healthy   ok
etcd-0               Healthy   {"health":"true"}

ss -antulp | grep :10251 
ss -antulp | grep :10252

可以看到相应的端口已经被物理机监听了

使用kubeadm安装kubernetes1.19版本（一）基础环境配置和集群初始化