Squid+MRTG实现完善的缓存代理和http服务加速代理

作者：Mirolers 发表时间：2002/12/27 05:13pm

作者：紫天星
时间：2002-9-25
来源：www.hackerabc.com

Squid 是一种源代码开放的高性能代理缓存服务器。它可支持FTP，gopher和Http数据对象的代理。另外，Squid也支持SSL，多样化访问控制和代理请求的完整日志功能。通过轻量级的网际缓存协议，Squid以网状或层次的方式分配内存，这样能节省额外的带宽。提供Http服务加速代理，Web服务器把Http数据推到Squid缓存中，外界的请求访问可以通过缓存提取所需数据，实现Web服务器的动态镜像。
另外，为了实现对Squid服务器的监控，采用MRTG。MRTG　是　Multi Router Traffic Grapher 的缩写，它主要的用途是监测网络服务设备的流量，并生成包括图片的HTML文件，可以直观的显示网络服务的流量，以提供Squid缓存服务的监测。
通过Squid+MRTG可以配置一个完善的代理服务提供方案。下面为具体配置步骤：
一．基础准备
Squid下载地址：http://www.squid-cache.org
版本：squid-2.4.STABLE4-src.tar.gz
MRTG下载地址：http://people.ee.ethz.ch/~oetiker/webtools/mrtg/pub/
版本：mrtg-2.9.22.tar.gz
机器配置为：256M内存，9G硬盘（其中4G分区专用缓存目录），PII433。

二．安装步骤
解压Squid(一般做法，把软件包括在/opt目录下)
#tar zxvf squid-2.4.STABLE4-src.tar.gz
#cd squid
//进行编译
#./configure --prefix=/usr/local/squid --enable-delay-pools --enable-snmp --enable-cache-digests --enable-auth-modules=”NCSA”
#make all
#make install
*对编译项目的解释：
--prefix 为编译Squid所存放的目录，这里为/usr/local/squid
--enable-delay-pools 此选项使能一个延时池，这样能对某些特定的请求限制额定带宽。
--enable-snmp 此选项可以让MRTG使用SNMP协议对服务器的流量状态进行监测，因此必须选择此项，使Squid支持SNMP接口。
--enable-cache-digests 使能缓存摘要，本来此项目的是为了在Squid集群服务之间迅速发现缓存对象，这里在本地使用，可以加快请求时，检索缓存内容的速度。
--enable-auth-modules 此编译选项启用认证模块，可以对访问代理用户进行授权。

安装MRTG
#tar zxvf mrtg-2.9.22.tar.gz
#cd mrtg*
#./configure --prefix=/usr/local/mrtg-2
#make
#make install
/* 几点说明：
1．MRTG大部分程序是用Perl脚本写成，需要Perl版本为5.005以上才能运行，RH 7.2带有perl版本为v5.6.0，非常满足要求。（如果版本不够，请到www.perl.com下载安装。）
2．MRTG需要zlib，gd和libpng三个处理图形的库支持，RH7.2满足此要求。（如果没有安装，请到http://www.boutell.com/gd/ http://www.libpng.org/pub/png/src/ http://www.gzip.org/zlib 下载安装）

三．具体配置
lSquid配置(仅对必要选项配置并说明)：
http_port 80
此选项用于Squid代理所侦听的端口，由于要实现Http加速代理，则侦听端口80
tcp_outgoing_address 255.255.255.255
此句法指定了远程服务器的IP地址，这里我们使用255.255.255.255来指定为所有地址
tcp_incoming_address
这里可以使用http_port语法进行绑定端口和IP地址。表示客户端的请求。可以不使用。
cache_mem 64 MB
由于Squid在读写磁盘，I/O通道，数据转贮等需要大量内存，我们可以把内存值稍微设置大一些，这样可以提供服务器性能。

cache_swap_low 95
这用做表示缓存内部对象的替换的衡量基线。当交换分区的磁盘利用率超越这个基线，那么缓存对象替换也就随之开始。这里是用百分率做衡量标准。

cache_swap_high 98
此标记用于缓存对象替换的最高程度，当交换分区磁盘利用率接近此设置，则表示对象的更新程度更为剧烈。这里由于我的缓存区设置比较大，因此设置为98%。

下面几个配置标记采用系统默认配置。
{ maximum_object_size 4096 KB
{ 超过此尺寸的对象将不缓存。
{ minimum_object_size 0 KB
{ 小于此尺寸的对象将不缓存。
{ maximum_object_size_in_memory 8 KB
{ 内存中能缓存的最大对象尺寸。
{ ipcache_size 1024
{ 指定IP缓存大小。
{ ipcache_low 90
{ 缓存IP地址的最低基线。
{ ipcache_high 95
{ 缓存IP地址的最高极限。
{ fqdncache_size 1024
{ 缓存DNS全域名解析的尺寸。

cache_replacement_policy lru
此标记用于当缓存新对象时，使用缓存策略来清除缓存中特定对象。这里使用lru表示：它只替换长时间没有被访问过的对象。其他策略请参看配置文档介绍。

memory_replacement_policy lru
此用法同上，区别在于替换内存对象。

cache_dir ufs /cache 4000 16 256
设置缓存根目录为/cache，类型为ufs，缓存区大小为4G，可以有16个二级子目录，每有二级目录有256个三级子目录。

cache_access_log /var/log/squid/access.log
cache_log /var/log/squid/cache.log
cache_store_log /var/log/squid/store.log
cache_swap_log /var/log/squid/swap.log
上面几项是缓存日志记录的路径和文件名。

log_ip_on_direct on
记录客户端主机的IP地址。

log_fqdn on
记录全DNS域名解析。

mime_table /usr/local/squid/etc/mime.conf
Squid所用mime的文件路径

pid_filename /usr/local/squid/logs/squid.pid
Squid进程ID的文件。

ftp_user Squid@ynst.net.cn
这里可以使用匿名登陆FTP服务器。

ftp_list_width 32
FTP文件列表长度，超过长度则截断文件名。
ftp_passive on
允许主动连接FTP服务器。

dns_nameservers 202.98.187.1
指定代理的域名解析服务器。

authenticate_program /usr/local/squid/bin/ncsa_auth
/usr/local/squid/etc/passwd
代理认证程序，这里在/usr/local/squid/etc使用htpasswd产生一个密码文件，具体方法如下：
#htpasswd –cdb passwd auth_usr1 pass1
#htpasswd –db passwd auth_usr2 pass2
#htpasswd –db passwd auth_usr3 pass3
创建passwd文件，并添加auth_usr1，auth_usr2，auth_usr3三个认证用户。

authenticate_children 5
所需要要产生的认证进程数。

authenticate_ttl 3600
此标记设置认证保持时间。

authenticate_ip_ttl 1800
此标记设置认证绑定IP地址的时间长度。

authenticate_ip_ttl_is_strict on
此标记可在authenticate_ttl时间内，拒绝其他非认证IP地址访问。

request_header_max_size 10 KB
request_body_max_size 1 MB
设置了Http请求的包头和数据大小。

request_body_max_size 0
这里，请求所返回的数据大小为0，意义为没有任何限制。

connect_timeout 180 seconds
read_timeout 15 minutes
request_timeout 20 seconds
上面几项是代理服务几个超时设置，这里使用配置文件默认值。

下面是访问控制列表一些配置，这里对访问的IP地址，域名，访问类型极其访问代理的权限做的限制：
acl acldomain dstdomain .ynst.net.cn
acl acceleratedport port 80
acl acceleratedhost dst 202.98.187.17/255.255.255.255
acl aclprotocol proto HTTP FTP
acl aclmethod method GET POST

acl aclauth proxy_auth required
（注：这里使用required表示任何passwd文件中存在的合法用户才授予访问权限。）

acl aclsnmp snmp_community secrect
MRTG可以使用snmp协议检测此代理服务运行状态。

acl aclconn maxconn 20
可并行连接的最大数量。

启用定义的访问控制列表
http_access allow manager localhost
http_access deny manager
http_access allow aclauth
http_access allow acceleratedport acceleratedhost
http_access deny all

下面为缓存管理设置
cache_mgr admin@ynst.net.cn
设置缓存管理者的接受邮件地址。

cache_effective_user squidusr
cache_effective_group squidgrp
设置执行Squid的用户和用户组。
{注：设置用户和用户组及其权限修改方法如下：
#groupadd squidgrp
#useradd –g squidgrp –d /home/squidusr squidusr
修改log日志权限属性，使squidusr有写权限。
#chown squidusr /var/log/squid
#chgrp squidgrp /var/log/squid
#chown squidusr /var/log/squid/*.log
#chown squidgrp /var/log/squid/*.log
}

下面配置Http服务加速代理
httpd_accel_host 202.98.187.17
httpd_accel_port 80
httpd_accel_with_proxy on
(注：如果配置代理和加速服务，必须httpd_accel_with_proxy选项打开。如果需要配置多个加速，可以使用虚拟的概念。)

snmp_port 3401
此标记设置snmp_port端口为3401，可以使MRTG监测服务运行状态。

snmp_access allow aclsnmp localhost
snmp_access deny all
snmp_incoming_address 0.0.0.0
snmp_outgoing_address 0.0.0.0

以上选项用于配置和MRTG交互信息的Snmp设置。

digest_generation on
digest_rebuild period 1 hour
digest_rewrite_period 1 hour
digest_swapout_chunk_size 4096 bytes
digest_rebuild_chunk_percentage 10
产生缓存摘要，并设置摘要重构所需要的时间及其相关设置，这里采用系统默认设置。缓存摘要使的庞大的缓存内容形成一个微型检索，提高代理性能。

最后我们进行延迟队列池进行配置
延迟队列池可以基于一定规则对特定请求数据的进行限制，这样可以防止恶意用户发送非正规数据串攻击服务器。
以下选项只在必要处进行说明，配置如下：
delay_pools 1 #定义一个池
delay_class 1 1 #池为1类型
delay_access 1 allow all #允许类型1的所有请求访问
delay_parameters 1 128000/128000 #限制访问的128k/s
delay_initial_bucket_level 50 #Squid启动时，初始化池所用的带宽数量。

运行Squid代理服务：
#squid –z /*创建Squid所使用的缓存目录结构
如果想在前台运行
#squid –NCdl
如果想在后台运行
#squid
检查Squid是否运行
#squid –k check

lMRTG配置：
首先测试SNMP服务是否启动：
#snmpwalk -p 3401 hostname communitystring .1.3.6.1.4.1.3495.1.1
如果看到如下输出：
enterprises.nlanr.squid.cacheSystem.cacheSysVMsize = 7970816
enterprises.nlanr.squid.cacheSystem.cacheSysStorage = 2796142
enterprises.nlanr.squid.cacheSystem.cacheUptime = Timeticks: (766299) 2:07:42.99
则说明SNMP正常工作。
按照mrtg.hdl.com的文档，使用cfgmaker和indexmaker就可以生成MRTG所需要的Web发布文件。使用cfgmaker可以创建配置MRTG所需要的配置文件，而Indexmaker则是检索MRTG生成的Web文件，制作一个Index.html。这里，我提供一种更为简洁的办法：
（感谢Chris提供的mrtg-squid.cfg文件和index.html，可到http://www.psychofx.com/chris/unix/mrtg/ 下载这两个文件。）
修改mrtg-squid.cfg文件选项如下：
修改 WorkDir 和 LoadMIBs 路径设置
修改所有出现在文件中的"hostname" 为你实际服务器名字
修改所有 "chris"字段为你需要的名字和地址
修改community 字串属性
这里配置如下：
WorkDir: /home/www/mrtg/squid
LoadMIBs: /usr/local/squid/etc/mib.txt
所有public@hostname修改secrect@proxysvr

创建/home/www/mrtg/squid这样一个目录。
#mkdir /home/www/mrtg/squid
#cd /home/www/mrtg/squid
#cp /opt/mrtg-squid.cfg .
#mrtg mrtg-squid.cfg
#cp /opt/index.html .

修改/etc/httpd/conf/httpd.conf如下几个选项
Listen 8000
Port 8000
Documentroot /home/www/mrtg/squid

由于mrtg读取文件需要资源，因为合理设置读取间隔,这里我设置为5分钟：
crontab –e
*/5 * * * * /usr/local/mrtg-2/bin/mrtg /home/www/mrtg/squid/mrtg-squid.cfg

这样，我们就建立了一个完善的代理加速访问服务器，通过mrtg的强大监控，可以统计服务器运行时设备运行状态。由于以上软件遵从GNU，因此一种强大而有经济的建站手段。通过认证控制，允许特定用户使用代理服务。而Web加速服务器则成为服务器镜像的方便手段。

Squid+MRTG实现完善的缓存代理和http服务加速代理相关推荐

JDK动态代理和Cglib的动态代理
2019独角兽企业重金招聘Python工程师标准>>> 最简单的是静态代理方法,即代理模式,这里就不多啰嗦了.. 重点说一下JDK的动态代理和Cglib的动态代理吧先说JDK的,需 ...
Nginx四层代理和7层反向代理
Nginx四层代理和7层反向代理文章目录 Nginx四层代理和7层反向代理 Nginx四层代理配置 Nginx四层代理配置步骤配置好两台Nginx七层代理服务器在四层代理的Nginx服务器上做相 ...
jdk中的动态代理和cglib中动态代理的区别
jdk中动态代理: 要求目标对象必须实现了某个接口. 代理对象和目标对象要想实现相同的功能,在底层的表现是代理对象和目标对象实现了相同的接口,因此获取代理对象后(Object类型),应该向下转型为目标 ...
Gradle 设置全局代理和Linux终端设置代理
1.gradle设置代理: 修改 $HOME/.gradle/gradle.properties 文件,加入下面一句,这样就可以全局开启 gradle 代理 org.gradle.jvmargs=-D ...
Java动态代理和Cglib动态代理最强王者阵容
Python实战社群 Java实战社群长按识别下方二维码,按需求添加扫码关注添加客服进Python社群▲ 扫码关注添加客服进Java社群▲ 作者丨黎杜来源丨非科班的科班(LDCldc1230 ...
Day3_代理和css解析
Day3_代理和css解析获取代理找到购买代理网站,推荐蘑菇代理. 根据api获取ip地址,然后用新的ip地址给proxies赋值 def get_proxy_ips():api = 'http: ...
使用Nginx反向代理和proxy_cache缓存搭建CDN服务器加快Web访问速度
碰到问题:移动用户访问web服务器www.osyunwei.com很慢解决办法: 1.在移动机房放置一台nginx反向代理服务器 2.通过域名DNS智能解析,所有移动用户访问www.osyunwei ...
AOP的底层实现-CGLIB动态代理和JDK动态代理
AOP是目前Spring框架中的核心之一,在应用中具有非常重要的作用,也是Spring其他组件的基础.它是一种面向切面编程的思想.关于AOP的基础知识,相信多数童鞋都已经了如指掌,我们就略过这部分,来 ...
scrapy 伪装_Python scrapy 伪装代理和fake_userAgent的使用
scrapy 伪装代理和fake_userAgent的使用伪装浏览器代理在爬取网页是有些服务器对请求过滤的不是很高可以不用ip来伪装请求直接将自己的浏览器信息给伪装也是可以的. 第一中方法: 1. ...

Squid+MRTG实现完善的缓存代理和http服务加速代理

Squid+MRTG实现完善的缓存代理和http服务加速代理相关推荐

最新文章

热门文章