python并发发送http请求_用python异步发送http请求来提升效率
需求
在一个我做的项目里,业务流程有一环需要调用http的接口。
这个接口本身是同步处理的,返回响应的速度会根据要处理的数据量不同而不同。
为了不拖慢主业务流程,客户要求采用异步的方式来请求,即只要得到http状态码为200即认为请求成功,无须关心接口具体的返回结果。
分析
这个业务场景可以概括为,我这边处理了所有数据的流程之后,将结果通过这个接口告知服务方,只要对方收到通知即可。
这种场景一般有好几种处理方法,比如:
(1)将被请求的接口改为异步模式,即接口本身只将发来的数据放入队列这一件事情并返回ok即可。数据的处理由其他进程去完成,接口仅仅只扮演一个生产者的角色;
(2)调用方采用socket方式发送UDP请求;
(3)调用方发送一个异步的HTTP请求。
在这个项目里,接口是其他团队提供的,由于一些原因,不可能要求对方支持异步模式,所以采用我方发送异步请求的方式。
在python中,可以使用第三方库grequests来实现这一需求。
准备工作
代码示例
import grequests
def invoke_async(self, url, data):
# print("async ver")
headers = {
"Content-Type": "text/xml",
"User-Agent":"xxxx"
}
rs = [grequests.post(url, headers=headers, data=data)]
res = grequests.map(rs)
if len(res) > 0:
return res[0]
return None
if __name__ == "main":
req = self.invoke(url, data=params)
if req.status_code == 200:
print("ok")
else:
print req.content.text
讲解
在main里面,假设我们构建了一个用于发送post请求的url(接口地址)和data(参数)
grequests的使用方法和requests很像。也是直接使用get/post方法,比如:
# requests
requests.post(url, headers=headers, data=data)
# grequests
grequest.post(url, headers=headers, data=data)
不同的地方在于,grequest是异步的,所以他是通过grequests.map来驱动请求的。map方法需要接收一个数组作为参数。
所以上面我的代码里,grequest.post是被放到了一个数组里,即使我只发了一个请求。
grequests是使用gevent库,将每一个request使用协程的方式来实现的,由于存在循环导入类库的可能,如果你的代码也导入了gevent库的话。所以grequests会报一个警告:
MonkeyPatchWarning: Monkey-patching ssl after ssl has already been imported may lead to errors, including RecursionError on Python 3.6. It may also silently lead to incorrect behaviour on Python 3.7. Please monkey-patch earlier.
所以我们需要在import的代码之前,打一个猴子补丁,这样上面的代码可以改为:
from gevent import monkey
monkey.patch_all()
import grequests
# 此处省略其他代码,和上面是一样的......
小结
异步请求接口,可以在接口返回结果可预测或无须关心的情况下使用。
除了要求接口提供方提供异步方式外,也可以在调用方使用grequests来构造异步请求。
grequests基于协程gevent构建,除了本文的情况,还可以配合多线程以用于提高网络爬虫的效率。
python并发发送http请求_用python异步发送http请求来提升效率相关推荐
- python token发送请求_使用Python发送请求
本节内容# requests安装 requests使用 JSON类型解析 requests库详解 带安全认证的请求 序言# 上节课我们学习了接口测试的理论,抓包工具及使用Postman手工测试各种接口 ...
- python发送soap报文_使用Python将带附件的XML发送到SOAP ws
在过去的几周里,我一直在学习Python,并尝试将自定义XML发送到公共测试WS . 现在我觉得我没有取得任何进展 . 所以我现在需要帮助或任何建议 . 如果你使用SoapUI或其他方法(我试过-mz ...
- python发微信提醒天气_基于Python实现定时自动给微信好友发送天气预报
效果图 from wxpyimport * import requests from datetimeimport datetime import time from apscheduler.sche ...
- python做审计底稿视频_最新Python教学视频,每天自学俩小时,让你offer拿到手软...
2020最新Python零基础到精通资料教材,干货分享,新基础Python教材,看这里,这里有你想要的所有资源哦,最强笔记,教你怎么入门提升!让你对自己更加有信心,重点是资料都是免费的,免费!!! 如 ...
- python爬虫入门基础知识_【PYTHON】【爬虫】关于python爬虫的一些基础知识
基础知识 HTTP协议 我们浏览网页的浏览器和手机应用客户端与服务器通信几乎都是基于HTTP协议,而爬虫可以看作是一个另类的客户端,它把自己伪装成浏览器或者手机应用客户端,按照自己的逻辑贪婪的向服务器 ...
- 基于python爬虫技术的应用_基于Python爬虫技术的应用
办公自动化杂志 一.引言 本文主要是对 Python 爬虫技术进行阐述,基于 python 的爬虫与其他语言相比的有很多优势.通过爬去某个网站的所有新闻这个案例,来进一步阐释 Python 爬虫技术的 ...
- python前端调用后端模型_【Python】【Flask】前端调用后端方法
后端代码: @app.route("/test",methods=['POST','GET']) def test(): return "我是测试的" 前端代码 ...
- python程序运行结果不停_关于python:在进程运行时不断打印Subprocess输出
要从我的python脚本启动程序,我使用以下方法: def execute(command): process = subprocess.Popen(command, shell=True, stdo ...
- python里load什么意思_【python】json中load和loads区别
相同点 dump 和 dumps 都实现了序列化 load 和 loads 都实现反序列化 变量从内存中变成可存储或传输的过程称之为序列化 序列化是将对象状态转化为可保存或可传输格式的过程. 变量内容 ...
最新文章
- 如何在 Linux 上用 Markdown 编写电影剧本
- SAP HANA插上32路CPU,性能多大飞跃?
- Linux系统守护进程详解
- Android 模仿微信启动动画
- QT系统性总结(推荐新手看)
- DNN结构构建:NAS网络结构搜索和强化学习、迁移学习
- aspnet中gridview文本只显示开始几个文本_软网推荐:三个小软件 轻松解决文本操作难题...
- 万字长文梳理:从0开始,步入Service Mesh微服务架构的世界
- 机器学习中的数学(二)--梯度下降法
- reduce 阶段遍历对象添加到ArrayList中的问题
- ensembl-vep/VEP 注释软件安装及测试 超简单版(conda vep、百度网盘数据库)
- 编程语言Netty原理浅析
- 3t studio 导出数据_Studio 3T下操作MongoDB的基本命令
- LOAP引擎:clickhouse 01: 介绍、安装及集群搭建
- 一文搞懂机器学习中的缺失值处理(超详细)
- centos7安装teamviewer11
- Vue-cli3更改项目logo图标
- 2018科大讯飞AI营销算法比赛笔记
- 循环神经网络LSTM论文解读
- NAT与NAT穿透(一)