6.python探测Web服务质量方法之pycurl模块
才开始学习的时候有点忽略了这个模块,觉得既然Python3提供了requests库,为什么多此一举学习这个模块。后来才发现pycurl在探测Web服务器的时候的强大。
pycurl是一个用c语言写的libcurl Python实现,支持的操作协议有FTP,HTTP,HTTPS,TELNET等,可以理解成linux下curl命令功能的python封装。通过调用pycurl提供的方法,实现探测Web服务质量的情况,比如响应的HTTP状态码,请求延时,HTTP头信息,下载速度等,利用这些信息可以定位服务响应卡顿缓慢的具体环节。
安装使用命令:pip install pycurl,如果下载失败参考我上一篇总结的安装方法。
模块常用方法的说明:https://curl.haxx.se/libcurl/c/libcurl-tutorial.html
pycurl.Curl()类实现创建一个libcurl包的Curl句柄对象,无参数。更多介绍libcurl包的介绍见:
下面介绍Curl对象几个常用的方法:
- close()方法,对应libcurl包中的curl_easy_cleanup方法,无参数,实现关闭,回收Curl对象。
- perform()方法,对应libcurl包中的curl_easy_perform方法,无参数,实现Curl对象请求的提交。
- setopt(option,value)方法,对应libcurl包中curl_easy_setopt方法,参数option是通过libcurl的常量来指定的,参数value的值会依赖option,可以是一个字符串,整型,长整型,文件对象,列表,函数等。下面列举常用的常量列表:
c = pycurl.Curl() #创建一个curl对象 c.setopt(pycurl.CONNECTTIMEOUT, 5) #连接的等待时间,设置为0则不等待 c.setopt(pycurl.TIMEOUT, 5) #请求超时时间 c.setopt(pycurl.NOPROGRESS, 0) #是否屏蔽下载进度条,非0则屏蔽 c.setopt(pycurl.MAXREDIRS, 5) #指定HTTP重定向的最大数 c.setopt(pycurl.FORBID_REUSE, 1) #完成交互后强制断开连接,不重用 c.setopt(pycurl.FRESH_CONNECT,1) #强制获取新的连接,即替代缓存中的连接 c.setopt(pycurl.DNS_CACHE_TIMEOUT,60) #设置保存DNS信息的时间,默认为120秒 c.setopt(pycurl.URL,"http://www.baidu.com") #指定请求的URL c.setopt(pycurl.USERAGENT,"Mozilla/5.2 (compatible; MSIE 6.0; Windows NT 5.1; SV1; .NET CLR 1.1.4322; .NET CLR 2.0.50324)") #配置请求HTTP头的User-Agent c.setopt(pycurl.HEADERFUNCTION, getheader) #将返回的HTTP HEADER定向到回调函数getheader c.setopt(pycurl.WRITEFUNCTION, getbody) #将返回的内容定向到回调函数getbody c.setopt(pycurl.WRITEHEADER, fileobj) #将返回的HTTP HEADER定向到fileobj文件对象 c.setopt(pycurl.WRITEDATA, fileobj) #将返回的HTML内容定向到fileobj文件对象
- getinfo(option)方法,对应libcurl包中的curl_easy_getinfo方法,参数option是通过libcurl的常量来指定的。下面列举常用的常用列表:
c = pycurl.Curl() #创建一个curl对象
c.getinfo(pycurl.HTTP_CODE) #返回的HTTP状态码 c.getinfo(pycurl.TOTAL_TIME) #传输结束所消耗的总时间 c.getinfo(pycurl.NAMELOOKUP_TIME) #DNS解析所消耗的时间 c.getinfo(pycurl.CONNECT_TIME) #建立连接所消耗的时间 c.getinfo(pycurl.PRETRANSFER_TIME) #从建立连接到准备传输所消耗的时间 c.getinfo(pycurl.STARTTRANSFER_TIME) #从建立连接到传输开始消耗的时间 c.getinfo(pycurl.REDIRECT_TIME) #重定向所消耗的时间 c.getinfo(pycurl.SIZE_UPLOAD) #上传数据包大小 c.getinfo(pycurl.SIZE_DOWNLOAD) #下载数据包大小 c.getinfo(pycurl.SPEED_DOWNLOAD) #平均下载速度 c.getinfo(pycurl.SPEED_UPLOAD) #平均上传速度 c.getinfo(pycurl.HEADER_SIZE) #HTTP头部大小
实践:实现探测Web服务质量
HTTP服务是最流行的互联网应用之一,服务质量的好坏关系到用户体验以及网站的运营服务水平,最常用的有两个标准,
一为服务的可用性,比如是否处于正常提供服务状态,而不是出现404页面未找到或500页面错误等;
二为服务的响应速度,比如静态类文件下载时间都控制在毫秒级,动态CGI为秒级。
本示例使用pycurl的setopt与getinfo方法实现HTTP服务质量的探测,获取监控URL返回的HTTP状态码,HTTP状态码采用pycurl.HTTP_CODE常量得到,以及从HTTP请求到完成下载期间各环节的响应时间,通过pycurl.NAMELOOKUP_TIME,pycurl.CONNECT_TIME,pycurl.PRETRANSFER_TIME,pycurl.R等常量来实现。另外通过pycurl.WRITEHEADER,pycurl.WRITEDATA常量得到目标URL的HTTP响应头部及页面内容。
import os,sys import time import pycurlURL = "www.baidu.com" #探测的目标URL c = pycurl.Curl() #创建一个Curl对象 c.setopt(pycurl.URL,URL) #定义请求的URL常量 c.setopt(pycurl.CONNECTTIMEOUT,5) #定义请求连接的等待时间 c.setopt(pycurl.TIMEOUT,5) #定义请求超时时间 c.setopt(pycurl.NOPROGRESS,1) #屏蔽下载进度条 c.setopt(pycurl.MAXREDIRS,1) #指定HTTP重定向的最大数为1 c.setopt(pycurl.FORBID_REUSE,1) #完成交互后强制断开连接,不重用 c.setopt(pycurl.DNS_CACHE_TIMEOUT,30) #设置保存DNS信息的时间为30秒#创建一个文件对象,以“wb”方式打开,用来存储返回的http头部及页面的内容 indexfile = open(os.path.dirname(os.path.realpath(__file__))+"/content.txt","wb") c.setopt(pycurl.WRITEHEADER,indexfile) #将返回的HTTP HEADER定向到indexfile文件 c.setopt(pycurl.WRITEDATA,indexfile) #将返回的HTML内容定向到indexfile文件try:c.perform() except:print("连接错误")indexfile.close() c.close() sys.exit()NAMELOOKUP_TIME = c.getinfo(c.NAMELOOKUP_TIME) #DNS解析所消耗的时间 CONNECT_TIME = c.getinfo(c.CONNECT_TIME) #建立连接所消耗的时间 PRETRANSFER_TIME = c.getinfo(c.PRETRANSFER_TIME) #从建立连接到准备传输所消耗的时间 STARTTRANSFER_TIME = c.getinfo(c.STARTTRANSFER_TIME) #从建立连接到传输开始消耗的时间 TOTAL_TIME = c.getinfo(c.TOTAL_TIME) #传输结束所消耗的总时间 HTTP_CODE = c.getinfo(c.HTTP_CODE) #返回HTTP状态码 SIZE_DOWNLOAD = c.getinfo(c.SIZE_DOWNLOAD) #下载数据包的大小 HEADER_SIZE = c.getinfo(c.HEADER_SIZE) #HTTP头部大小 SPEED_DOWNLOAD = c.getinfo(c.SPEED_DOWNLOAD) #平均下载速度#打印输出相关数据 print("HTTP状态码:%s" % HTTP_CODE) print("DNS解析时间:%2f" % NAMELOOKUP_TIME) print("建立连接时间:%2f" % CONNECT_TIME) print("准备传输时间:%2f" % PRETRANSFER_TIME) print("传输开始时间:%2f" % STARTTRANSFER_TIME) print("传输结束总时间:%2f" % TOTAL_TIME) print("下载数据包大小:%d bytes/s" % SIZE_DOWNLOAD) print("HTTP头部大小:%d bytes/s" % HEADER_SIZE) print("平均下载速度:%d bytes/s" % SPEED_DOWNLOAD)#关闭文件及Curl对象 indexfile.close() c.close()
代码来自<<Python 自动化运维>>这本书。
代码执行结果:
查看获取的HTTP文件头部及页面内容文件content.txt
转载于:https://www.cnblogs.com/bmjoker/p/10573949.html
6.python探测Web服务质量方法之pycurl模块相关推荐
- Python学习笔记-实现探测Web服务质量
pycurl是一个用C语言写的libcurl Python实现,功能非常强大,支持的操作协议后FTP.HTTP.HTTPS.TELNET等,可以理解成Linux下curl命令功能的Python封装,简 ...
- python的json中方法以及jsonpath模块
什么是json JSON(JavaScript Object Notation) 是一种轻量级的数据交换格式,它使得人们很容易的进行阅读和编写.同时也方便了机器进行解析和生成.适用于进行数据交互的场景 ...
- python使用os.system()方法进行多模块安装
划重点: python开发的时需要下载很多的模块,所以我们可以使用os.system()方法来自动安装所需模块 # -*- coding: utf-8 -*- # @FileName: 自动安装模块. ...
- python pycurl模块详解
python 模块 pycurl 处理 URL 文章目录 python 模块 pycurl 处理 URL 1. 介绍 2. 安装 3. 类与方法 4. 探索web服务质量 1. 介绍 pycurl 是 ...
- python项目部署nginx_详解使用Nginx和uWSGI配置Python的web项目的方法
基于python的web项目,常见的部署方法有: fcgi:用spawn-fcgi或者框架自带的工具对各个project分别生成监听进程,然后和http服务互动. wsgi:利用http服务的mod_ ...
- python爬取所有数据_入门用Python进行Web爬取数据:为数据科学项目提取数据的有效方法...
作者|LAKSHAY ARORA 编译|Flin 来源|analyticsvidhya 总览 Web抓取是一种从网站提取数据的高效方法(取决于网站的规定) 了解如何使用流行的BeautifulSoup ...
- 如何用python爬取数据_入门用Python进行Web爬取数据:为数据科学项目提取数据的有效方法...
作者|LAKSHAY ARORA 编译|Flin 来源|analyticsvidhya 总览 Web抓取是一种从网站提取数据的高效方法(取决于网站的规定) 了解如何使用流行的BeautifulSoup ...
- 企业级项目|用Python进行web开发企业统一用户认证和权限控制平台
目前大家对Python的了解更多来源是数据分析.Ai.运维工具开发,在行业中使用Python进行web开发,同样也是非常受欢迎的,例如:FaceBook,豆瓣,知乎,饿了么等等,本文主要是介绍是利用P ...
- python curl模块_Python pycurl模块 学习
pycurl模块的安装方法如下: easy_install pycurl #easy_install安装方法 pip install pycurl #pip安装方法 #源码安装方法 # 要求curl- ...
最新文章
- 突然开掉CEO!通用电气时隔一年再换帅,金融和工业互联网都救不了GE?
- 帮助一个大兄弟修复完善了一下他的代码
- 被国人误解了千年的七句话之相濡以沫
- 青龙羊毛——火源星球新脚本(搬运)
- a标签的四种链接状态
- [渝粤教育] 西南科技大学 工程测量 在线考试复习资料
- C++Primer学习笔记:第1章 开始
- 004-docker常用命令[二]-容器操作ps,top,attach,export
- mysql5.7.1.16出现[Err] 1146 - Table 'performance_schema.session_status' doesn't exist的解决办法
- Mavne安装Jboss
- Android中启动页ViewPager和ViewFlipper带指示器
- Python常见低级错误/拼写错误
- mtk6737m的lk中lcm流程
- 什么是动态编程Python示例
- 模具设计分型面创建的10大原则
- 状压dp、数位dp、概率dp
- Nightmare2
- java的体系结构_java体系结构介绍
- Python 下载 图片、音乐、视频 和 断点续传
- opencv:centos7中安装opencv4.3.0环境
热门文章
- 条款22: 尽量用“传引用”而不用“传值”
- 凤凰网制作的 “中国挺住” 桌面与MSN,QQ头像下载
- Fiddler使用技巧:强大的数据文本编解码功能
- Linux操作系统(一:基本操作)
- MySQL宽字节注入漏洞分析_宽字节注入
- 专业的java培训机构是否靠谱,对比一下就知道了!
- 零基础如何学习软件测试
- matlab svr 预测,SVR 多目标预测
- oracle的存储过程调试,oracle 运行普通方式及调试debug方式存储过程性能区别
- Linux上实现ssh免密码登陆远程服务器