squid
http://www.squid-cache.org/ --官方网址
squid软件主要有两大应用:1,代理上网(正向代理，透明代理）
2,网站静态页面缓存加速（反向代理)
三种代理类型：
正向代理 代理内部主机上网,共享上网，缓存，控制内网用户上网行为等功能（客户端需要设置代理服务器的IP和代理端口）
透明代理 和正向代理的功能完全一致（客户端不需要设置代理服务器的IP和代理端口，对用户是透明的）
正向代理分析图：
外网
|
modem
|
路由器(dhcp,snat共享上网，上网行为控制，限速等)
|
|
squid正向代理(共享上网，静态页面缓存加速，内网用户四七层上网行为控制，限速等)
|
|
|----------------------|
上网用户一 上网用户二
反向代理 从外部网络访问内部服务器，与正向方向相反，主要用于网站架构的缓存加速或CDN
反向代理分析图：
client
|
|
反向代理 (缓存加速，七层切分，负载均衡，会话保持等)
｜
｜
web
===================================================================
正向代理实验
公网
｜
｜
br0 172.16.13.250
squid 服务器
virbr1 192.168.100.1
|
|
|
内网用户VM1
eth0(virbr1)
192.168.100.128
准备如图所示的虚拟机及网络配置
准备这个拓扑图要注意的地方：
1,宿主机（squid服务器）需要能上外网，在这里就是指向公司的路由器
2，192.168.100.0网络，我这里使用kvm的virbr1网段来模拟
3，内网用户只要与squid服务器能ping通就行，不用指网关和DNS
4，内网用户需要安装图形界面，并安装firefox浏览器
5，squid服务器能上外网，但内网用户不能上外网，我们的目地就是让squid代理内网用户上外网
第一步：在squid服务器上安装squid
# yum install squid -y
扩展:安装完后，会有一份官方文件在下面的路径下
/usr/share/doc/squid-3.5.20/squid.conf.documented
第二步：修改配置文件
# vim /etc/squid/squid.conf
http_access allow all --把deny all改成allow all
cache_dir ufs /var/spool/squid 100 16 256 --把缓存目录这一句打开注释
如果要简单优化，则可以加上cache_mem参数，你多余的内存大小都可以指定给cache_mem
比如
cache_mem 5000M
cache_dir ufs /var/spool/squid 5000 16 256 --这个100指的是此目录可以存放的缓存空间大小，磁盘空间足够，可以尽量调大
内存－－－》磁盘
cache_mem /var/spool/squid
---------------------------------------------------------
第三步：
启动服务
# systemctl start squid
# lsof -i:3128 --查看3128端口
COMMAND PID USER FD TYPE DEVICE SIZE NODE NAME
squid 4937 squid 12u IPv4 36871 TCP *:squid (LISTEN)
第四步：
客户端的测试
不用设置网关和DNS指向
主要是修改浏览器（具体步骤如下）
--filefox配置
firefox浏览器右上角open menu－－preferences－－advanced－－network－－settings－－ 手动填写代理服务器的IP和代理端口
此处填写就应该填写172.16.13.250 端口3128 然后保存退出后就能成功上外网了
--IE配置
右键IE图标－－连接－－局域网设置－－为LAN使用代理服务器前打勾并填上代理服务器的内网IP及其代理端口
测试：
访问已经访问过的页面是否能感觉到页面加快
再次查看 du -s /var/spool/squid 发现增大，因为缓存了对象
查看相关日志 /var/log/squid/access.log
--此日志可以看到所有被代理的内网用户访问的网址和时间等信息
# date -d "@1500620984" +'%F %T'
================================================================
透明（transparent)代理实验：
准备工作:先把上面的正向代理客户端的浏览器设置去掉
第一步：
在squid服务器上打开路由转发功能
# vim /etc/sysctl.conf --更改配置文件
net.ipv4.ip_forward = 1
# sysctl -p --用此命令让其生效
第二步:修改配置文件
# vim /etc/squid/squid.conf
http_port 3128 intercept --intercept打开支持透明代理
# systemctl restart squid --重启服务
第三步:配置iptables
client squid 公司路由器
virbr1 br0
192.168.100.128 192.168.100.1 172.16.13.250--> 172.16.13.254 公网IP
|
|
|
client网关指向192.168.100.1--
clientDNS指向114.114.114.114 ----------------------->外网DNS（8.8.8.8）
由上面的分析，需要在squid服务器上写上一句snat，让DNS能正常访问外网
# iptables -F
# iptables -F -t nat
# iptables -F -t mangle
# iptables -t nat -A POSTROUTING -p udp --dport 53 -o br0 -j SNAT --to-source 172.16.13.250
这样的话，内网客户端的DNS OK了，但是http的80端口的访问如果也做一个SNAT的话，如下的规则:
# iptables -t nat -A POSTROUTING -p tcp --dport 80 -o br0 -j SNAT --to-source 172.16.13.250
那么这就做的是完全的通过iptables来上外网;与squid无关
所以应该换成下面一句规则，把80端口的访问都重定向到3128端口
# iptables -t nat -A PREROUTING -p tcp --dport 80 -i virbr1 -j REDIRECT --to-port 3128
还有443的端口问题，这里如果也重定向到3128，会出现访问https网站报ssl错误。我们这里把443用iptables直接SNAT转发出去（也就是说443与squid无关)
# iptables -t nat -A POSTROUTING -p tcp --dport 443 -o br0 -j SNAT --to-source 172.16.13.250
第四步:测试验证
内网用户（也就是client端）用浏览器访问网页，就会发现能够成功访问
==================================================================================
此处插入一点知识点：
squid的acl（access control list)访问控制（下面列举一些常见的控制）
acl denyip src 192.168.100.128/32 --拒绝内网的192.168.100.128/32上网
http_access deny denyip
acl denyip src 192.168.100.128-192.168.100.132/255.255.255.255
http_access deny denyip
acl vip arp 00:0C:29:79:0C:1A
http_access allow vip
acl baddsturl2 dst 220.11.22.33 --不能访问这个外网IP的网站
http_access deny baddsturl2
acl baddsturl dstdomain -i www.163.com --不能访问www.163.com和WWW.163.COM；-i参数定义大小写都匹配； 但是可以访问war.163.com或sports.163.com
http_access deny baddsturl
acl baddsturl dstdom_regex -i 163 --这是把163以下的所有域名都禁止 ，但直接使用IP仍然是可以访问的
http_access deny baddsturl
acl baddsturl dstdom_regex "/etc/squid/baddsturl" --如果网址太多，可以写成一个文件，然后在这个文件里一行一个网站写上你要禁止的
http_access deny baddsturl
acl baddsturl3 url_regex -i baidu --拒绝访问url里有baidu这个关键字的网站
http_access deny baddsturl3
acl badfile urlpath_regex -i \.mp3$ \.rmvb$ \.exe$ \.zip$ \.mp4$ \.avi$ \.rar$
http_access deny badfile --禁止下载带有定义后缀名的文件
acl badipclient2 src 192.168.100.0/255.255.255.0
acl worktime time MTWHF 9:00-17:00
http_access deny badipclient2 worktime --拒绝192.168.100.0网段工作时间不能上网
acl badipclient3 src 192.168.100.128
acl conn5 maxconn 5
http_access deny badipclient3 conn5 --最大连接数为5
访问控制案例
实现如下要求：
1，允许周一到周五12：00-14：00和17:30-21：00和双休能上网，别的时间不能上网
2，禁止下载.exe .rar .mp3 .avi .rmvb .mp4后缀的文件
3，禁止访问qq.com,mop.com,sina.com,163.com,youku.com
4，禁止访问网址中包含某些关键字的网站：比如 sex news movie sport game stock
5, vip没有任何限制
--把上面五点情况做成两种需求：
1，上课时间不能上任何网站，休息时间可以上网，但受限, vip没有任何限制
理论分析:
http_access 允许 vip
http_access 拒绝 限制
http_access 允许 休息时间
http_access deny all
实验需求一:
# vim /etc/squid/squid.conf
acl lunchtime time MTWHF 12:00-14:00
acl dinnertime time MTWHF 17:30-21:00
acl weekend time SA 00:00-24:00
acl badfile urlpath_regex -i \.mp3$ \.rmvb$ \.exe$ \.zip$ \.mp4$ \.avi$ \.rar$
acl badweb dstdom_regex "/etc/squid/denywebsite"
acl badword url_regex -i sex news movie sport game stock
acl vip arp 00:0C:29:79:0C:1A
http_access allow vip
http_access deny badfile
http_access deny badweb
http_access deny badword
http_access allow lunchtime
http_access allow dinnertime
http_access allow weekend
http_access deny all
# vim /etc/squid/denywebsite
qq
sina
mop
163
youkud
# systemctl restart squid
2，上课时间可以上网，但受限，休息时间可以无限制上网, vip没有任何限制
理论分析：
http_access 允许 vip
http_access 允许 休息时间
http_access 拒绝 限制
http_access allow all
实验需求二:
# vim /etc/squid/squid.conf
acl lunchtime time MTWHF 12:00-14:00
acl dinnertime time MTWHF 17:30-21:00
acl weekend time SA 00:00-24:00
acl badfile urlpath_regex -i \.mp3$ \.rmvb$ \.exe$ \.zip$ \.mp4$ \.avi$ \.rar$
acl badweb dstdom_regex "/etc/squid/denywebsite"
acl badword url_regex -i sex news movie sport game stock
acl vip arp 00:0C:29:79:0C:1A
http_access allow vip
http_access allow lunchtime
http_access allow dinnertime
http_access allow weekend
http_access deny badfile
http_access deny badweb
http_access deny badword
http_access allow all
=========================================================================================================
反向代理实验：
client 比喻→ 国外客户
| |
反向代理 海外仓储
| |
web 国内公司
client
|
|
正向代理(静态加速)
｜
因特网
｜
｜
１个或多个反向代理(较近地理位置增强响应时间，静态缓存加速，网站数据切分) cdn
|
前端web
|
中间件
｜
数据库
｜
存储
准备如下图的虚拟机：
client 172.16.25.2 比喻→ 要租房或买房的客户
｜
｜
br0 172.16.25.1
squid 服务器 房产中介
virbr1 192.168.100.1
|
|
|
内网web服务器VM1
eth0(virbr1) 要出租或卖房的业主
192.168.100.128
--注意:
192.168.100.1为squid的一个内网IP
172.16.25.1为squid的外网IP(也就是说在这个架构里squid在最前端)
172.16.25.2 为外网客户端
第一步：
在内网web服务器上安装httpd,并做一个主页用于测试
# yum install httpd* -y
# echo "内网web" > /var/www/html/index.html
# systemctl restart httpd
第二步:
在squid服务器上安装，并进行配置
# yum install squid -y
用一个新的配置文件；如果是在上面的透明代理基础上再做反向代理，先注释掉前面所有的配置
# vim /etc/squid/squid.conf
http_access allow all --ACL我这里直接允许所有（这一句前面的ACL配置我这里全删除了)
http_port 80 accel vhost vport
--80 因为外网客户只能访问的是你的80端口，所以此处将其改为80
--accel 反向代理加速模式
--vhost 支持域名或主机名来表示代理节点
--vport 支持IP和端口来表示代理节点
cache_peer 192.168.100.128 parent 80 0 no-query originserver name=web
--192.168.100.128 内网web服务器的IP
--parent 上下关系，非平级关系
--80 代理内部web服务器的80端口
--0 没有使用icp，表示就一台squid服务器
--no-query 不去查询邻居，与上面的0结合使用
--originserver 表示源实际服务器
--name=web 定义一个名字，让后面的参数引用
cache_peer_domain web web.cluster.com --对web.cluster.com的请求会给web这台服务器（也就是上面定义的192.168.100.128);如果有多台web的话，可以多台web绑定同一个域名，还可以实现RR轮循调度
cache_peer_domain web 172.16.25.1 --光写上面一条，客户端只能通过web.cluster.com访问，再加上这条，客户端就可以使用172.16.25.1来访问
cache_dir ufs /var/spool/squid 256 16 256
# systemctl restart squid
--测试：
所以这里客户端的DNS解析web.cluster.com应该得到172.16.25.1的结果
所以这里不做DNS的话，就直接在/etc/hosts里写上
172.16.25.1 web.cluster.com
再使用http://web.cluster.com 就可以访问到内部的web服务器了
可以使用curl -I http://web.cluster.com去查有没有命中缓存
======================================================================
问题一:
squid如何代理多个web?
vim /etc/squid/squid.conf
http_port 80 accel vhost vport
cache_peer 192.168.100.128 parent 80 0 no-query originserver round-robin name=web1
cache_peer 192.168.100.129 parent 80 0 no-query originserver round-robin name=web2
cache_peer 192.168.100.130 parent 80 0 no-query originserver round-robin name=web3
cache_peer 192.168.100.131 parent 80 0 no-query originserver round-robin name=web4
cache_peer_domain web1 web2 www.aaa.com
cache_peer_domain web3 web4 www.bbb.com
======================================================================
问题二:
如何配置下面的squid集群?
参考
http://www.ibm.com/developerworks/cn/linux/l-cn-squid
172.16.25.X
client
www.abc.com
通过dns技术(dns轮循或智能dns)；通过负载均衡软件(nginx,haproxy,lvs)
172.16.25.1 172.16.25.2
squid1 squid2
192.168.100.1 192.168.100.2
web1 web2
192.168.100.128 192.168.100.129
配置过程
第一步:
两个web上安装httpd，并建立两个不同主面方便测试(注意这里所有的机器的时间一定要同步，特别是web1和web2；如果web1和web2的时间隔得太久，可能会造成客户端访问时，不先访问缓存而是访问后台web，也就是缓存失效了）
过程省略
第二步:
安装并配置squid1
# yum install squid -y
# vim /etc/squid/squid.conf
http_access allow all
cache_dir ufs /var/spool/squid 256 16 256
http_port 80 accel vhost vport
icp_port 3130
icp_access allow all
cache_peer 192.168.100.2 sibling 80 3130
cache_peer 192.168.100.128 parent 80 0 no-query originserver round-robin name=web1
cache_peer 192.168.100.129 parent 80 0 no-query originserver round-robin name=web2
cache_peer_domain web1 web2 www.abc.com
# /etc/init.d/squid start
第三步:
安装并配置squid2
把squid1的配置文件拷过来，只需要修改一个地方（就是sibling的IP)
# yum install squid -y
# vim /etc/squid/squid.conf
cache_peer 192.168.100.1 sibling 80 3130 --把这个IP换成对方的IP
然后也启动服务
# /etc/init.d/squid start
第四步:
在客户端测试
# vim /etc/hosts --绑定IP地址与域名来模拟DNS（注意这里不能实现DNS轮循,所以手动绑定其中指定解析为squid1或squid2）
172.16.25.1 www.abc.com
# vim /etc/hosts
172.16.25.2 www.abc.com
====================================================================================================
扩展项目: （可自主进行搭建）
模拟cdn
squid+dns-view实现
北京
成都 武汉 上海
广州
（网站源在深圳）