高效多用的群集LVS负载均衡群集（DR模式）

2023-10-24 19:47:52

高效多用的群集LVS负载均衡群集（DR模式）

一、LVS-DR工作原理

1、数据包流向分析

第一步：客户端发送请求到 Director Server (负载均衡器），请求的数据报文到达内核空间
- 数据报文
  * 源 IP ------客户端的 IP
  * 目标 IP ------ VIP
  * 源 MAC ------客户端的 MAC
  * 目的 MAC ------ Director Server 的 MAC
第二步：内核空间判断数据包的目标 IP 是本机 VIP ，此时 IPVS（IP 虚拟服务器）比对数据包请求的服务是否是集群服务，是集群服务就重新封装数据包。然后将数据包发送给根据负载均衡算法选择的 Real Server。（Director Server 和 Real Server 在同一个网络中，数据通过二层数据链路层来传输。）
* 数据报文
* 源 IP ------ 客户端的 IP
* 目标 IP ------ VIP
* 源 MAC ------ Director Server 的 MAC
* 目的 MAC ------ Real Server 的 MAC
第三步：到达 Real Server 的请求报文的 MAC 地址是自身的 MAC 地址，就接收此报文。数据包重新封装报文，将响应报文通过 lo 接口传送给物理网卡然后向外发出。
* 数据报文
* 源 IP ------ VIP
* 目标 IP ------ 客户端的 IP
* 源 MAC ------ Real Server 的 MAC
* 目的 MAC ------ 客户端的 MAC
第四步：通过交换机和路由器将响应报文传送到客户端。客户端收到回复报文，得到想要的服务，但是不会知道是哪台服务器处理的

2、DR模式的特点

Director Server 和 Real Server 必须在同一个物理网络中
Real Server 可以使用私有地址，也可以使用公网地址。如果使用公网地址，可以通过互联网对 RIP 进行直接访问
Director Server 作为群集的访问入口，但不作为网关使用
所有的请求报文经由 Director Server，但回复响应报文不能经过 Director Server。
Real Server的网关不允许指向Director Server IP，即 Real Server 发送的数据包不允许经过 Director Serve
Real Server 上的 lo 接口配置 VIP 的 IP 地址

二、LVS-DR中的ARP问题

问题一：

（1）在LVS-DR负载均衡集群中，负载均衡与节点服务器都要配置相同的VIP地址。

（2）在局域网中具有相同的IP地址，势必会造成各服务器ARP通信的紊乱
解决思路：
1：当ARP广播发送到LVS-DR集群时，因为负载均衡器和节点服务器都是连接到相同网络上，它们都会接收到ARP广播
2：只有前端的负载均衡器进行响应，其他节点服务器不应该响应ARP广播
（3）对节点服务器进行处理，使其不响应针对VIP的ARP请求。
* 解决方法
（1）使用虚接口lo:0承载VIP地址
（2）设置内核参数arp_ignore=1:系统只响应目的IP为本地IP的ARP请求

问题二：
* RealServer返回报文（源IP是VIP）经路由器转发，重新封装报文时，需要先获取路由器的MAC地址。
* 发送ARP请求时，Linux默认使用IP包的源IP地址（即VIP）作为ARP请求包中的源IP地址，而不使用发送接口的IP地址
* 如：ens33

路由器收到ARP请求后，将更新ARP表项
原有的VIP对应Director的MAC地址会被更新为VIP对应RealServer的MAC地址
路由器根据ARP表项，会将新来的请求报文转发给RealServer，导致Director的VIP失效
* 解决方法：
* 对节点服务器进行处理，设置内核参数arp_announce=2：系统不使用IP包的源地址来设置ARP请求的源地址，而选择发送接口的IP地址。
- 解决ARP的两个问题的设置方法
  * 修改 /etc/sysctl.conf 文件

net.ipv4.conf.lo.arp_ignore=1
net.ipv4.conf.lo.arp_announce=2
net.ipv4.conf.all.arp_ignore=1
net.ipv4.conf.all.arp_announce=2

三、LVS负载均衡DR模式群集部署

    环境搭建

主机	操作系统	IP地址	所需服务
DR 服务器（负载调度器）	CentOS7	ens33：192.168.80.21、ens33:0 (VIP)：192.168.163.118	ipvsadm
Web节点服务器1	CentOS7	ens33：192.168.80.5、lo:0 (VIP)：192.168.163.188	nfs-utils、rpcbind、httpd
Web节点服务器2	CentOS7	ens33：192.168.80.8、lo:0 (VIP)：192.168.163.188	nfs-utils、rpcbind、httpd
NFS服务器	CentOS7	192.168.80.21	rpcbind、nfs-utils
客户端	Windows10	192.168.163.15	–

注意：此次搭建在同一局域网内，设置网络时不用网关和DNS，注释即可。如果不在同一网段，需要配置网关。

1、部署共享存储

NFS服务器：192.168.80.10

systemctl stop firewalld.service
systemctl disable firewalld.service
setenforce 0

yum -y install nfs-utils rpcbind

systemctl start rpcbind.service
systemctl start nfs.service
systemctl enable nfs.service
systemctl enable rpcbind.service

mkdir /opt/test1
mkdir /opt/test2

chmod 777 /opt/pxl
chmod 777 /opt/jingjing

vim /etc/exports
/opt/test1 192.168.19.0/24(rw,sync)
/opt/test2 192.168.19.0/24(rw,sync)

exportfs -rv

2、配置节点服务器

Web节点服务器1：ens33：192.168.80.5 lo:0 (VIP)：192.168.80.188
Web节点服务器2：ens33：192.168.80.8 lo:0 (VIP)：192.168.80.188
接下来是两台服务器相同的配置

（1）配置虚拟 IP 地址（VIP：192.168.80.188）

#此地址仅用做发送 Web 响应数据包的源地址，并不需要监听客户机的访问请求（改由调度器监听并分发）。
#因此使用虚接口 lo:0 来承载 VIP 地址，并为本机添加一条路有记录，将访问 VIP 的数据限制在本地，以避免通信紊乱。

vim /etc/sysconfig/network-scripts/ifcfg-lo:0
DEVICE=lo:0
IPADDR=192.168.163.100
NETMASK=255.255.255.255
ONBOOT=yes

ifup lo:0
ifconfig lo:0

#设置临时的路由，重启失效；禁锢路由
route add -host 192.168.163.100 dev lo:0
#查看路由
route -n

#开机自动添加路由，生产环境应该用这个
vim /etc/rc.local
/sbin/route add -host 192.168.163.100 dev lo:0
chmod +x /etc/rc.d/rc.local

（2）调整内核的ARP 响应参数以阻止更新 VIP 的MAC 地址，避免发生冲突

vim /etc/sysctl.conf
......
net.ipv4.conf.lo.arp_ignore = 1 #系统只响应目的IP为本地IP的ARP请求
net.ipv4.conf.lo.arp_announce = 2 #系统不使用IP包的源地址来设置ARP请求的源地址，而选择发送接口的IP地址
net.ipv4.conf.all.arp_ignore = 1
net.ipv4.conf.all.arp_announce = 2

sysctl -p

yum install -y nfs-utils rpcbind httpd
systemctl start rpcbind
systemctl enable rpcbind
systemctl start httpd.service
systemctl enable httpd.service

下面两个服务器设置有点不一样了

Web节点服务器1：ens33：192.168.80.5 lo:0 (VIP)：192.168.80.188

showmount -e 192.168.80.10

mount.nfs 192.168.163.14:/opt/test1 /var/www/html
echo 'this is test1 web!' > /var/www/html/index.html

Web节点服务器2：ens33：192.168.80.8 lo:0 (VIP)：192.168.80.188

showmount -e 192.168.80.10

mount.nfs 192.168.80.8:/opt/test2 /var/www/html
echo 'this is test2 web!' > /var/www/html/index.html

3、配置负载调度器

负载调度器：192.168.80.21 lo:0 (VIP)：192.168.80.188
（1）关防火墙，加载ip_vs模块

systemctl stop firewalld.service 
systemctl disable firewalld.service 
setenforce 0

#加载ip_vs模块，并安装ipvsadm工具
modprobe ip_vs
cat /proc/net/ip_vs
yum install -y ipvsadm

（2）配置虚拟 IP 地址（VIP：192.168.80.188）

vim /etc/sysconfig/network-scripts/ifcfg-ens33:0
DEVICE=ens33:0
ONBOOT=yes
IPADDR=192.168.80.188
NETMASK=255.255.255.255

ifup ens33:0
ifconfig ens33:0

（3）调整 proc 响应参数

#由于 LVS 负载调度器和各节点需要共用 VIP 地址，应该关闭Linux 内核的重定向参数响应，不充当路由器，
vim /etc/sysctl.conf
net.ipv4.ip_forward = 0
net.ipv4.conf.all.send_redirects = 0
net.ipv4.conf.default.send_redirects = 0
net.ipv4.conf.ens33.send_redirects = 0

sysctl -p

（4）配置负载分配策略

ipvsadm-save > /etc/sysconfig/ipvsadm
或者
ipvsadm --save > /etc/sysconfig/ipvsadm

systemctl start ipvsadm.service

#清除原有策略
ipvsadm -C
ipvsadm -A -t 192.168.80.188:80 -s rr
ipvsadm -a -t 192.168.163.80:188 -r 192.168.80.5:80 -g #如果这里是隧道模式，直接将-g替换成-i即可
ipvsadm -a -t 192.168.80.188:80 -r 192.168.80.8:80 -g

#查看节点状态，Route代表 DR模式
ipvsadm -ln

码农公寓

高效多用的群集LVS负载均衡群集（DR模式）

高效多用的群集LVS负载均衡群集（DR模式）

一、LVS-DR工作原理

1、数据包流向分析

2、DR模式的特点

二、LVS-DR中的ARP问题

三、LVS负载均衡DR模式群集部署

1、部署共享存储

2、配置节点服务器

（2）调整内核的ARP 响应参数以阻止更新 VIP 的MAC 地址，避免发生冲突

下面两个服务器设置有点不一样了

3、配置负载调度器

4、测试验证

码农公寓

高效多用的群集LVS负载均衡群集（DR模式）

一、LVS-DR工作原理

1、数据包流向分析

2、DR模式的特点

二、LVS-DR中的ARP问题

三、LVS负载均衡DR模式群集部署

1、部署共享存储

2、配置节点服务器

（2）调整内核的ARP 响应参数以阻止更新 VIP 的MAC 地址，避免发生冲突

下面两个服务器设置有点不一样了

3、配置负载调度器

4、测试验证

相关文章