squid缓存代理

2023-09-26 12:20:34

目录：

一、Squid 代理服务器

二、Squid 代理安装

三、搭建传统代理

四、搭建透明代理

五、ACL访问控制

六、Squid日志分析

七、反向代理

一、Squid 代理服务器
Squid 主要提供缓存加速、应用层过滤控制的功能。

代理的工作机制
1、代替客户机向网站请求数据，从而可以隐藏用户的真实IP地址。
2、将获得的网页数据（静态 Web 元素）保存到缓存中并发送给客户机，以便下次请求相同的数据时快速响应。

Squid 代理的类型
传统代理：适用于Internet，需在客户机指定代理服务器的地址和端口。

透明代理：客户机不需指定代理服务器的地址和端口，而是通过默认路由、防火墙策略将Web访问重定向给代理服务器处理。

反向代理：如果 Squid 反向代理服务器中缓存了该请求的资源，则将该请求的资源直接返回给客户端；否则反向代理服务器将向后台的 WEB 服务器请求资源，然后将请求的应答返回给客户端，同时也将该应答缓存在本地，供下一个请求者使用。

二、Squid 代理安装

  1 [编译安装Squid]
  2 #安装依赖环境
  3 yum -y install gcc gcc-c++ make
  4 #上传软件包squid-3.5.27. tar到/opt目录下
  5 cd /opt
  6 #解压
  7 tar zxvf squid-3.5.27.tar.gz
  8 #配置
  9 cd squid-3.5.27/
 10 ./configure --prefix=/usr/local/squid  11 --sysconfdir=/etc  12 --enable-arp-acl  13 --enable-linux-netfilter  14 --enable-linux-tproxy  15 --enable-async-io=100  16 --enable-err-language="Simplify_Chinese"  17 --enable-underscore  18 --enable-poll  19 --enable-gnuregex
 20 
 21 # 编译安装
 22 make && make install
 23 
 24 -----------------------------------------------
 25 ####_上述脚本解释###
 26 
 27 ./configure --prefix=/usr/local/squid
 28 ##安装目录
 29 --sysconfdir=/etc/
 30 ##单独将配置文件修改到/etc目录下
 31 -- enable-arp-acl
 32 ##可在ACL中设置通过MAC地址进行管理，防止IP欺骗
 33 --enable-1inux-netfilter
 34 ##使用内核过滤
 35 --enable-linux-tproxy
 36 ##支持透明模式
 37 --enable-async-io=100
 38 ##异步I/O，提升储存性能，值可修改
 39 --enable-err-language="Simplify_Chinese"
 40 ##错误信息的显示语言
 41 --enable-underscore
 42 ##允许URL中有下划线
 43 -enable-poll
 44 ##使用Poll () 模式，提升性能
 45 --enable-gnuregex
 46 ##使用GNU正则表达式
 47 -------------------------------------------
 48 
 49 
 50 ln -s /usr/local/squid/sbin/* /usr/local/sbin 
 51 ##创建链接文件，优化路径
 52 useradd -M -s /sbin/nologin squid
 53 ###创建程序用户、组
 54 chown -R squid:squid /usr/local/squid/var/
 55 ##改变目录属主
 56 
 57 
 58 [修改Squid的配置文件]
 59 vi /etc/squid.conf
 60 #放在http access deny all
 61 之前，允许任意客户机使用代理服务，控制规则自.上而下匹配
 62 vim /etc/squid.conf
 63 ......
 64 -56行--插入--
 65 http_access allow all
 66 #放在http access deny all之前，允许任意客户机使用代理服务，控制规则自.上而下匹配
 67 http_access deny all
 68 http_port 3128
 69 #用来指定代理服务监听的地址和端口(默认的端口号为3128)
 70 -----61行--插入------
 71 cache_effective_user squid
 72 #添加，指定程序用户，用来设置初始化、运行时缓存的账号，否则启动不成功
 73 cache_effective_group squid
 74 #添加，指定账号基本组
 75 coredump_dir /usr/local/squid/var/cache/squid
 76 #指定缓存文件目录
 77 ---------------------------------------------
 78 ##上述脚本解释
 79 ##配置硬盘缓存，打开#.缓存目录512M，其中一级目录16个，二级256个
 80 cache_effective_user squid 
 81 cache_effective_group squid
 82 ---------------------------------------------
 83 
 84 
 85 squid -k parse
 86 ##检查配置文件
 87 squid -k rec
 88 ##重新加载配置文件
 89 squid -zX
 90 ##初始化缓存目录
 91 
 92 squid
 93 ##启动squid服务
 94 
 95 netstat -anpt | grep squid
 96 ##确认squid服务处于正常监听状态
 97 tcp6 0  0 :::3128   :::*   LISTEN 
 98 6699/ (squid-1)
 99 
100 [编写squid服务脚本]
101 -------------------------------------------------
102 #!/bin/bash
103 #chkconfig: 2345 90 25
104 PID="/usr/local/squid/var/run/squid.pid"
105 CONF="/etc/squid.conf"
106 CMD="/usr/local/squid/sbin/squid"
107 
108 case "$1" in
109    start)
110      netstat -natp | grep squid &> /dev/null
111      if [ $? -eq 0 ]
112      then
113        echo "squid is running"
114        else
115        echo "正在启动 squid..."
116        $CMD
117      fi
118    ;;
119    stop)
120      $CMD -k kill &> /dev/null
121      rm -rf $PID &> /dev/null
122    ;;
123    status)
124      [ -f $PID ] &> /dev/null
125         if [ $? -eq 0 ]
126           then
127             netstat -natp | grep squid
128           else
129             echo "squid is not running"
130         fi
131    ;;
132    restart)
133       $0 stop &> /dev/null
134       echo "正在关闭 squid..."
135          $0 start &> /dev/null
136       echo "正在启动 squid..."
137    ;;
138    reload)
139       $CMD -k reconfigure
140    ;;
141    check)
142       $CMD -k parse
143    ;;
144    *)
145       echo "用法：$0{start|stop|status|reload|check|restart}"
146    ;;
147 esac
148 ----------------------------------------------
149 
150 
151 chmod +x /etc/init.d/squid
152 chkconfig --add squid
153 chkconfig --squid on

三、搭建传统代理

 1 **环境准备**
 2 
 3 Squid 服务器：192.168.91.5
 4 web1 服务器： 192.168.91.10
 5 win10：192.168.91.178
 6 
 7 ####搭建传统代理###
 8 案例:构建Squid代理服务器，允许客户机指定squid代理服务器作为Web代理
 9 访问网站服务器，但禁止通过代理下载超过10MB的文件，超过4MB的文件不进行缓存
10 服务器:
11 
12 1.squid服务器
13 
14 vim /etc/squid.conf
15 ......
16 http_access allow all
17 http_access deny all
18 http_port 3128
19 cache_effective_user squid
20 cache_effective_group squid
21 ---63行，插入----
22 cache_mem 64 MB                #指定缓存功能所使用的内存空间大小，便于保持访问较频繁的WEB对象，容量最好为4的倍数，单位为MB，建议设为物理内存的1/4
23 reply_body_max_size 10 MB            #允许用户下载的最大文件大小，以字节为单位，当下载超过指定大小的Web对象时，浏览器的报错页面中会出现“请求或访问太大”的提示默认设置0表示不进行限制
24 maximum_object_size 4096 KB            #允许保存到缓存空间的最大对象大小，以KB为单位，超过大小限制的文件将不被缓存，而是直接转发给用户
25 
26 iptables -F
27 iptables -I INPUT -p tcp --dport 3128 -j ACCEPT
28 iptables -nL INPUT
29 
30 2.web1配置
31 
32 systemctl stop firewalld.service
33 setenforce 0
34 yum -y install httpd
35 systemctl start httpd
36 netstat -natp | grep 80
37 
38 测试：在win10 浏览器输入Web1服务器IP地址访问，查看Web1服务器访问日志，显示的是由代理服务器替客户机在访问
39 http://192.168.91.10
40 
41 查看Web1访问日志的新增记录
42 tail -f /var/log/httpd/access_log

squid服务器配置

web服务器配置

win10配置

测试：在win10 浏览器输入Web1服务器IP地址访问，查看Web1服务器访问日志，显示的是由代理服务器替客户机在访问

四、搭建透明代理

 1 1、Squid服务器配置
 2 cd /etc/sysconfig/network-scripts/
 3 cp ifcfg-ens33 ifcfg-ens36 
 4 vim ifcfg-ens37
 5 systemctl restart network
 6 
 7 #60行修改添加提供内网服务的IP地址，和支持透明代理选项transparent
 8 vim /etc/squid.conf
 9 ......
10 http_access allow all
11 http_access deny all
12 http_port 192.168.100.100:3128 transparent
13 systemctl restart squid
14 
15 echo ‘net.ipv4.ip_forward = 1‘ >> /etc/sysctl.conf
16 sysctl -p
17 
18 iptables -F
19 iptables -t nat -F
20 # 添加防火墙规则（将来源为100网段：80/443端口的流量重定向到3128端口）
21 iptables -t nat -I PREROUTING -i ens37 -s 192.168.100.0/24 -p tcp --dport 80 -j REDIRECT --to 3128    
22 iptables -t nat -I PREROUTING -i ens37 -s 192.168.100.0/24 -p tcp --dport 443 -j REDIRECT --to 3128    
23 #如果要进行重启，则需要配置以下规则
24 iptables -I INPUT -p tcp --dport 3128 -j ACCEPT
25 
26 2.web1服务器
27 systemctl stop firewalld.service
28 setenforce 0
29 yum -y install httpd
30 systemctl start httpd
31 netstat -natp | grep 80
32 
33 # 添加一条静态路由
34 route add -net 192.168.100.0/24 gw 192.168.91.5
35 
36 3.客户端关闭代理，修改win10 地址为100网段
37 
38 访问web1服务器
39 
40 查看Web1访问日志的新增记录
41 tail -f /var/log/httpd/access_log

squid服务器配置

web1服务器添加一条静态路由

客户端关闭代理，修改win10 地址为100网段

五、ACL访问控制
在配置文件squid.conf中，ACL访问控制通过以下两个步骤来实现:

使用acl配置项定义需要控制的条件：
通过http_access配置项对已定义的列表做“允许"或“拒绝”访问的控制
定义访问控制列表

? 格式: acl列表名称列表类型列表内容
? 列表名称: 名称自定义，相当于给acl起个名字
? 列表类型: 必须使用squid预定义的值，对应不同类别的控制条件
? 列表内容: 是要控制的具体对象，不同类型的列表所对应的内容也不一样，可以有多个值(以空格为分隔，为“或"的关系)

 1 方法一：
 2 vim /etc/squid.conf
 3 ......
 4 acl localhost src 192.168.100.178/24                     #源地址为192.168.100.178
 5 acl MYLAN src 192.168.100.0/24                            #客户机网段
 6 acl destinationhost dst 192.168.226.129/32                #目标地址为192.168.184.20
 7 acl MC20 maxconn 20                                        #最大并发连接20
 8 acl PORT port 21                                        #目标端口21
 9 acl DMBLOCK dstdomain .qq.com                            #目标域，匹配域内所有站点
10 acl BURL url_regex -i ^rtsp:// ^emule://                #以rtsp://.emule://开头的URL，-i表示忽略大小写
11 acl PURL urlpath_regex -i \.mp3$ \.mp4$ \.rmvb$            #以.mp3、.mp4、.rmvb结尾的URL路径
12 acl WORKTIME time MTWHF 08:30-17:30                        #时间为周一--至周五8:30~17:30，"MTWHF"为每个星期的英文首字母
13 
14 第一条插入:
15 http_access deny host
16 
17 
18 方法二:
19 #启动对象列表管理
20 mkdir /etc/squid
21 vim /etc/squid/dest.list
22 192.168.226.129                                         #Squid服务器IP
23 192.168.226.0/24                                        #任意需要的网段
24 
25 vim /etc/ squid.conf
26 .......
27 acl destinationhost dst "/etc/squid/dest.list"            #调用指定文件中的列表内容
28 http access deny(或allow) destinationhost                #注意，如果是拒绝列表，需要放在http_access allow all前面
29 
30 systemctl restart squid

方法一

六、Squid日志分析

sarg ( Squid Analysis Report Generator)，是一款squid日志分析工具，采用HTML格式，详细列出每一位用户访问Internet的站点信息、时间占用信息、排名、连接次数、访问量等

 1 #安装图像处理软件包
 2 yum install -y gd gd-devel pcre-devel
 3 mkdir /usr/local/sarg
 4 
 5 #将zxvf sarg-2.3.7. tar.gz压缩包上传到/opt目录下
 6 tar zxvf sarg-2.3.7.tar.gz -C /opt/
 7 
 8 cd /opt/sarg-2.3.7
 9 ./configure --prefix=/usr/local/sarg 10 --sysconfdir=/etc/sarg \                    #配置文件目录，默认是/usr/loca/etc
11 --enable-extraprotection                    #额外安全防护
12 
13 -----------------------------------------------------------------------------------------------
14 ./configure --prefix=/usr/local/sarg --sysconfdir=/etc/sarg --enable-extraprotection
15 --------------------------------------------------------------------------------------------------
16 
17 make && make install
18 
19 vim /etc/sarg/sarg.conf
20 --7行--取消注释
21 access_log /usr/local/squid/var/logs/access.1og                 #指定访问日志文件
22 --25行--取消注释
23 title "Squid User Access Reports"                                #网页标题
24 -- 120行--取消注释，修改
25 output_dir /var/www/html/sarg                                    #报告输出目录
26 --178行--取消注释
27 user_ip no                                                        #使用用户名显示
28 --184行--取消注释，修改
29 topuser_sort_field connect reverse                                #top排序中，指定连接次数采用降序排列，升序是normal
30 -- 190行--取消注释，修改
31 user_sort_field connect reverse                                    #对于用户访问记录，连接次数按降序排序
32 --206行--取消注释，修改
33 exclude_hosts /usr/local/sarg/noreport                            #指定不计入排序的站点列表的文件
34 --257行--取消注释
35 overwrite_report no                                                #同名同日期的日志是否覆盖
36 --289行--取消注释，修改
37 mail_utility mailq.postfix                                        #发送邮件报告命令
38 --434行--取消注释，修改
39 charset UTF-8                                                    #指定字符集UTF-8
40 --518行--取消注释
41 weekdavs 0-6                                                    #top排行的星期周期
42 --525行--取消注释
43 hours 0-23                                                        #top排行的时间周期
44 --633行--取消注释
45 www_document_root /var/www/html                                    #指定网页根目录
46 
47 #添加不计入站点文件，添加的域名将不被显示在排序中
48 touch /usr/local/sarg/noreport
49 
50 ln -s /usr/local/sarg/bin/sarg /usr/local/bin/
51 
52 sarg --help                    #获取帮助
53 
54 #运行
55 sarg                         #启动一次记录
56 
57 #验证
58 yum install httpd -y
59 systemctl start httpd
60 在squid服务器上使用浏览器访问http://192.168.91.5/sarg, 查看sarg报告网页。
61 date -s
62 #添加计划任务，执行每天生成报告
63 vim /usr/local/sarg/report.sh
64 #/bin/bash
65 #Get current date 
66 TODAY=$(date +%d/%m/%Y)
67 #Get one week ago today
68 YESTERDAY=$(date -d "1 day ago" +%d/%m/%Y) 
69 /usr/local/sarg/bin/sarg -l /usr/1ocal/squid/var/logs/access.log -o /var/www/html/sarg
70 -z -d $YESTERDAY-$TODAY &> /dev/null
71 exit 0
72 
73 chmod +x /usr/local/sarg/report.sh
74 
75 crontab -e
76 0 0 * * * /usr/1ocal/sarg/report.sh

在squid服务器上使用浏览器访问http://192.168.91.5/sarg, 查看sarg报告网页

七、反向代理

如果Squid反向代理服务器中缓存了该请求的资源，则将该请求的资源直接返回给客户端;否则反向代理服务器将向后台的Web服务器请求资源，然后将请求的应答返回给客户端，同时也将该应答缓存在本地供下一个请求者使用

工作机制:

缓存网页对象，减少重复请求
将互联网请求轮询或按权重分配到内网web服务器
代理用户请求，避免用户直接访问Web服务器，提高安全

 1 开启防火墙、本地关闭HTTPD
 2 systemctl start firewalld
 3 systemctl stop httpd
 4 
 5 iptables -F
 6 iptables -t nat -F
 7 iptables -I INPUT -p tcp --dport 3128 -j ACCEPT
 8 
 9 vim /etc/ squid.conf
10 60行--修改，插入-------
11 http_port 192.168.91.5:80 accel vhost vport
12 cache_peer 192.168.91.10 parent 80 0 no-query originserver round-robin max_conn=30 weight=1 name=web1
13 cache_peer 192.168.91.15 parent 80 0 no-query originserver round-robin max_conn=30 weight=1 name=web2
14 cache_peer_domain web1 web2 www.sdy.com                        #表示对www.sdy.com的请求,squid向192.168.91.10和192.168.91.1580端口发出请求
15 ---------------------------------------------------------------------------------------------------------------------------------------------------------
16 http_port 80 accel vhost vport
17 #squid从一个缓存变成了一个Web服务器反向代理加速模式，这个时候squid在80端口监听请求，同时和webserver的请求端口(vhost vport)绑定，这个时候请求到了squid, squid是不用转发请求的，而是直接要么从缓存中拿数据要么向,绑定的端口直接请求数据。
18 accel:反向代理加速模式
19 vhost:支持域名或主机名来表示代理节点
20 vport:支持IP和端口来表示代理节点
21 parent:代表为父节点，上下关系，非平级关系
22 80:代理内部web服务器的80端口
23 0:没有使用icp，表示就一台squid服务器
24 no-query:不做查询操作，直接获取数据
25 originserver:指定是源服务器
26 round-robin:指定squid 通过轮询方式将请求分发到其中一-台父节点
27 max_conn:指定最大连接数
28 weight:指定权重
29 name:设置别名
30 -------------------------------------------------------------------------------------------------------------------------------------------------------------------
31 
32 systemctl stop squid 
33 service squid reload
34 
35 #后端web2节点服务器设置
36 yum install -y httpd
37 systemctl start httpd 
38 
39 #节点1(web1):
40 echo "this is test web1" >> /var/www/html/index.html
41 #节点2(web2):
42 echo "this is test web2" >> /var/www/html/index.html
43 
44 #客户机的域名映射配置
45 修改C: \Windows\System32 \drivers\etc\hosts 文件
46 192.168.91.5 www.kgc.com
47 
48 #客户机的代理配置
49 打开浏览器，工具-->Internet选项-->连接-->局域网设置-->开启代理服务器(地址: Squid服务器IP地址，端口:80)
50 
51 浏览器访问http://www.sdy.com