负载均衡之Haproxy配置详解(及httpd配置)

下图描述了使用keepalived+Haproxy主从配置来达到能够针对前段流量进行负载均衡到多台后端web1、web2、web3、img1、img2.但是由于haproxy会存在单点故障问题,因此使用keepalived来实现对Haproxy单点问题的高可用处理。
负载均衡之Haproxy配置详解(及httpd配置)
 
常用开源软件负载均衡器有:Nginx、LVS、Haproxy。
三大主流软件负载均衡器对比(LVS VS Nginx VS Haproxy)
LVS:
1、抗负载能力强。抗负载能力强、性能高,能达到F5硬件的60%;对内存和cpu资源消耗比较低
2、工作在网络4层,通过vrrp协议转发(仅作分发之用),具体的流量由linux内核处理,因此没有流量的产生。
2、稳定性、可靠性好,自身有完美的热备方案;(如:LVS+Keepalived)
3、应用范围比较广,可以对所有应用做负载均衡;
4、不支持正则处理,不能做动静分离。
5、支持负载均衡算法:rr(轮循)、wrr(带权轮循)、lc(最小连接)、wlc(权重最小连接)
6、配置 复杂,对网络依赖比较大,稳定性很高。
Ngnix:
1、工作在网络的7层之上,可以针对http应用做一些分流的策略,比如针对域名、目录结构;
2、Nginx对网络的依赖比较小,理论上能ping通就就能进行负载功能;
3、Nginx安装和配置比较简单,测试起来比较方便;
4、也可以承担高的负载压力且稳定,一般能支撑超过1万次的并发;
5、对后端服务器的健康检查,只支持通过端口来检测,不支持通过url来检测。
6、Nginx对请求的异步处理可以帮助节点服务器减轻负载;
7、Nginx仅能支持http、https和Email协议,这样就在适用范围较小。
8、不支持Session的直接保持,但能通过ip_hash来解决。、对Big request header的支持不是很好,
9、支持负载均衡算法:Round-robin(轮循)、Weight-round-robin(带权轮循)、Ip-hash(Ip哈希)
10、Nginx还能做Web服务器即Cache功能。
 
HAProxy的特点是:
1、支持两种代理模式:TCP(四层)和HTTP(七层),支持虚拟主机;
2、能够补充Nginx的一些缺点比如Session的保持,Cookie的引导等工作
3、支持url检测后端的服务器出问题的检测会有很好的帮助。
4、更多的负载均衡策略比如:动态加权轮循(Dynamic Round Robin),加权源地址哈希(Weighted Source Hash),加权URL哈希和加权参数哈希(Weighted Parameter Hash)已经实现
5、单纯从效率上来讲HAProxy更会比Nginx有更出色的负载均衡速度。
6、HAProxy可以对Mysql进行负载均衡,对后端的DB节点进行检测和负载均衡。
9、支持负载均衡算法:Round-robin(轮循)、Weight-round-robin(带权轮循)、source(原地址保持)、RI(请求URL)、rdp-cookie(根据cookie)
10、不能做Web服务器即Cache。
 
 
 
三大主流软件负载均衡器适用业务场景:
1、网站建设初期,可以选用Nigix/HAproxy作为反向代理负载均衡(或者流量不大都可以不选用负载均衡),因为其配置简单,性能也能满足一般的业务场景。如果考虑到负载均衡器是有单点问题,可以采用Nginx+Keepalived/HAproxy+Keepalived避免负载均衡器自身的单点问题。
2、网站并发达到一定程度之后,为了提高稳定性和转发效率,可以使用LVS、毕竟LVS比Nginx/HAproxy要更稳定,转发效率也更高。不过维护LVS对维护人员的要求也会更高,投入成本也更大。

注:Niginx与Haproxy比较:Niginx支持七层、用户量最大,稳定性比较可靠。Haproxy支持四层和七层,支持更多的负载均衡算法,支持session保存等。具体选型看使用场景,目前来说Haproxy由于弥补了一些Niginx的缺点用户量也不断在提升。

 
 
 
衡量负载均衡器好坏的几个重要因素: 
1、会话率 :单位时间内的处理的请求数  
2、会话并发能力:并发处理能力  
3、数据率:处理数据能力  
经过官方测试统计,haproxy  单位时间处理的最大请求数为20000个,可以同时维护40000-50000个并发连接,最大数据处理能力为10Gbps。综合上述,haproxy是性能优越的负载均衡、反向代理服务器。
 

总结HAProxy主要优点:

一、免费开源,稳定性也是非常好,这个可通过我做的一些小项目可以看出来,单Haproxy也跑得不错,稳定性可以与LVS相媲美;

二、根据官方文档,HAProxy可以跑满10Gbps-New benchmark of HAProxy at 10 Gbps using Myricom's 10GbE NICs (Myri-10G PCI-Express),这个作为软件级负载均衡,也是比较惊人的;

三、HAProxy可以作为MySQL、邮件或其它的非web的负载均衡,我们常用于它作为MySQL(读)负载均衡;

四、自带强大的监控服务器状态的页面,实际环境中我们结合Nagios进行邮件或短信报警,这个也是我非常喜欢它的原因之一;

五、HAProxy支持虚拟主机。

下述将选择Haproxy作为负载均衡器进行讲解:
 
本次使用环境:
环境centos7.1
Haproxy 1.5.4
 
Haproxy+keeplived  172.31.2.31
Haproxy+keeplived  172.31.2.32
 
下述针对Haproxy的配置文件进行详解:
vim /etc/haproxy/haproxy.cfg
负载均衡之Haproxy配置详解(及httpd配置)
负载均衡之Haproxy配置详解(及httpd配置)
 
文本部分:
global                                                       # 全局参数的设置
    log         127.0.0.1 local2                      # log语法:log <address_1>[max_level_1] # 全局的日志配置,使用log关键字,
                                                                     指定使用127.0.0.1
                                                                     上的syslog服务中的local0日志设备,记录日志等级为info的日志
    chroot      /var/lib/haproxy                 #改变当前工作目录
    pidfile     /var/run/haproxy.pid          #当前进程id文件
    maxconn     4000                                #最大连接数
    user        haproxy                                #所属用户
    group     haproxy                                #所属组
    daemon                                               #以守护进程方式运行haproxy
    stats socket /var/lib/haproxy/stats
defaults
    mode                    http                        #默认的模式mode { tcp|http|health },tcp是4层,http是7层,health只会返回OK
    log                        global                    #应用全局的日志配置
    option                  httplog                  # 启用日志记录HTTP请求,默认haproxy日志记录是不记录HTTP请求日志
                                                                 
    option                  dontlognull          # 启用该项,日志中将不会记录空连接。所谓空连接就是在上游的负载均衡器
                                                                   或者监控系统为了探测该 服务是否存活可用时,需要定期的连接或者获取某
                                                                  一固定的组件或页面,或者探测扫描端口是否在监听或开放等动作被称为空连接;
                                                                  官方文档中标注,如果该服务上游没有其他的负载均衡器的话,建议不要使用
                                                                   该参数,因为互联网上的恶意扫描或其他动作就不会被记录下来
    option http-server-close                   #每次请求完毕后主动关闭http通道
    option forwardfor       except 127.0.0.0/8   #如果服务器上的应用程序想记录发起请求的客户端的IP地址,需要在HAProxy
                                                                            上 配置此选项, 这样 HAProxy会把客户端的IP信息发送给服务器,在HTTP
                                                                            请求中添加"X-Forwarded-For"字段。 启用  X-Forwarded-For,在requests
                                                                            头部插入客户端IP发送给后端的server,使后端server获取到客户端的真实IP。 
    option                  redispatch                      # 当使用了cookie时,haproxy将会将其请求的后端服务器的serverID插入到
                                                                            cookie中,以保证会话的SESSION持久性;而此时,如果后端的服务器宕掉
                                                                            了, 但是客户端的cookie是不会刷新的,如果设置此参数,将会将客户的请
                                                                            求强制定向到另外一个后端server上,以保证服务的正常。
    retries                 3                             # 定义连接后端服务器的失败重连次数,连接失败次数超过此值后将会将对应后端
                                                                  服务器标记为不可用
    timeout http-request    10s             #http请求超时时间
    timeout queue           1m                 #一个请求在队列里的超时时间
    timeout connect         10s                #连接超时
    timeout client          1m                   #客户端超时
    timeout server          1m                   #服务器端超时
    timeout http-keep-alive 10s           #设置http-keep-alive的超时时间
    timeout check           10s                 #检测超时
    maxconn                 3000                 #每个进程可用的最大连接数
frontend  main *:80                             #监听地址为80
    acl url_static       path_beg       -i /static /images /javascript /stylesheets
    acl url_static       path_end       -i .jpg .gif .png .css .js
    use_backend static          if url_static
    default_backend             my_webserver     #定义一个名为my_app前端部分。此处将对于的请求转发给后端
backend static                                                 #使用了静态动态分离(如果url_path匹配 .jpg .gif .png .css .js静态文件则
                                                                            访问此后端)
    balance     roundrobin                               #负载均衡算法(#banlance roundrobin 轮询,balance source 保存session值,
                                                                           支持static-rr,leastconn,first,uri等参数)
    server      static 127.0.0.1:80 check             #静态文件部署在本机(也可以部署在其他机器或者squid缓存服务器)
backend my_webserver                                  #定义一个名为my_webserver后端部分。PS:此处my_webserver只是一个
                                                                            自定义名字而已,但是需要与frontend里面配置项default_backend 值相一致
    balance     roundrobin                               #负载均衡算法
    server  web01 172.31.2.33:80  check inter 2000 fall 3 weight 30              #定义的多个后端
    server  web02 172.31.2.34:80  check inter 2000 fall 3 weight 30              #定义的多个后端
    server  web03 172.31.2.35:80  check inter 2000 fall 3 weight 30              #定义的多个后端
 
更多关于Haproxyacl配置请参考博文:http://blog.csdn.net/tantexian/article/details/50015975
 
配置完成则重启服务:

systemctl restart haproxy

 
假若想访问监控界面:配置stats uri  /haproxy项,重启服务:
负载均衡之Haproxy配置详解(及httpd配置)
systemctl reload haproxy
 
负载均衡之Haproxy配置详解(及httpd配置)
注意:假若页面范围不了,是否selinux关闭了,iptables开启此端口了(iptables -F)
 
同理在172.31.2.32上面安装上述步骤安装配置好haproxy:
负载均衡之Haproxy配置详解(及httpd配置)
上述对Haproxy的优缺点及配置进行了详细讲解。
 
 
接下来对Haproxy+web负载均衡使用进行实战讲解:
首先配置三台web服务器:172.31.2.33、172.31.2.34、172.31.2.35
三台都是同样操作:

1、实验环境

centos 7.1 X64 mini版

2、配置web服务器(node33/34/35):

测试方便,关闭selinux、关闭iptables

一下都采用默认,不做配置即可。

yum install httpd -y

# vim /etc/httpd/conf/httpd.conf

httpd监听端口:

负载均衡之Haproxy配置详解(及httpd配置)

DocumentRoot:网页存放的路径,文档的根目录

负载均衡之Haproxy配置详解(及httpd配置)

重启httpd

# systemctl restart httpd

页面访问httpd:

负载均衡之Haproxy配置详解(及httpd配置)

修改显示内容:

# vim /var/www/html/index.html

I'm node33!!! My IP is 172.31.2.33...

再次访问:

负载均衡之Haproxy配置详解(及httpd配置)

负载均衡之Haproxy配置详解(及httpd配置)

负载均衡之Haproxy配置详解(及httpd配置)

这样三个web服务33/34/35搭建成功!!!!

接下来配置负载均衡(本次实验只用一个Haproxy:172.31.2.31):

vim /etc/haproxy/haproxy.cfg

负载均衡之Haproxy配置详解(及httpd配置)

 
 
浏览器请求172.31.2.31:
负载均衡之Haproxy配置详解(及httpd配置)
负载均衡之Haproxy配置详解(及httpd配置)
负载均衡之Haproxy配置详解(及httpd配置)
 
从上述结果可知,前端对172.31.2.31的请求,被Haproxy的负载均衡器,均衡请求到三个后端web172.31.2.33、172.31.2.34、172.31.2.35上面去了。
这样当三个当中的一个出现故障,流量则能正常分发到剩余两个正常的web上,从来提高了系统可靠性。
 
 
跟多关于keepalived+Haproxy请参考文章:http://blog.csdn.net/tantexian/article/details/50056229
上一篇:mysql统计类似SQL语句查询次数


下一篇:MySQL的常用SQL语句.md