简介

没有切换开销。因为子程序切换不是线程切换,而是由程序自身控制,没有线程切换的开销,因此执行效率高,

不需要锁机制。因为只有一个线程,也不存在同时写变量冲突,在协程中控制共享资源不加锁,只需要判断状态就好了,所以执行效率比多线程高很多

Python对协程的支持还非常有限,用在generator中的yield可以一定程度上实现协程。

yield

传统的生产者-消费者模型是一个线程写消息,一个线程取消息,通过锁机制控制队列和等待,但一不小心就可能死锁。

如果改用协程,生产者生产消息后,直接通过yield跳转到消费者开始执行,待消费者执行完毕后,切换回生产者继续生产,效率极高

代码

importtimedefconsumer():

r= ''

whileTrue:

n= yieldrif notn:return

print('[CONSUMER] Consuming %s....' %n)

r= '200 OK'

defproduce(c):

c.next()

n=0while n < 5:

n= n + 1

print('[PRODUCER] Producing %s...' %n)

r=c.send(n)print('[PRODUCER] Consumer return: %s\n' %r)

c.close()if __name__=='__main__':

c=consumer()

produce(c)

结果

[PRODUCER] Producing 1...

[CONSUMER] Consuming1....

[PRODUCER] Consumerreturn: 200OK

[PRODUCER] Producing2...

[CONSUMER] Consuming2....

[PRODUCER] Consumerreturn: 200OK

[PRODUCER] Producing3...

[CONSUMER] Consuming3....

[PRODUCER] Consumerreturn: 200OK

[PRODUCER] Producing4...

[CONSUMER] Consuming4....

[PRODUCER] Consumerreturn: 200OK

[PRODUCER] Producing5...

[CONSUMER] Consuming5....

[PRODUCER] Consumerreturn: 200 OK

分析

首先调用c.next()启动生成器

然后,一旦生产了东西,通过c.send(n)切换到consumer执行

consumer通过yield拿到消息,处理,又通过yield把结果传回

produce拿到consumer处理的结果,继续生产下一条消息

整个过程无锁,由一个线程执行,producer和consumer写作完成任务,所以叫做协程

gevent

Python通过yield提供了对协程的基本支持,但是不完全。而第三方的gevent为Python提供了比较完善的协程支持

gevent是第三方库,通过greenlet实现协程,其基本思想是:

当一个greenlet遇到IO操作时(比如访问网络),就自动切换到其他的greenlet,等到IO操作完成,再在适当的时候切换回来继续执行。由于IO操作非常耗时,经常使程序处于等待状态,有了gevent为我们自动切换协程,就保证总有greenlet在运行,而不是等待IO。

importgeventdeff(n):for i inrange(n):printgevent.getcurrent(), i

g1= gevent.spawn(f, 5)

g2= gevent.spawn(f, 5)

g3= gevent.spawn(f, 5)

g1.join()

g2.join()

g3.join()

结果

0 1

2

3

4

0 1

2

3

4

0 1

2

3

4

可以看出3个greenlet依次运行,而不是交替运行

要让greenlet交替运行,可以通过gevent.sleep()交出控制权

importgeventdeff(n):for i inrange(n):printgevent.getcurrent(), i

gevent.sleep(1)

g1= gevent.spawn(f, 3)

g2= gevent.spawn(f, 3)

g3= gevent.spawn(f, 3)

g1.join()

g2.join()

g3.join()

结果

000 1

1

1

2

2

2

可以看出3个greenlet是交替执行

如果把循环改为1000,让执行次数执行时间长些,查看进程,可以看到线程只有一个。

当然,实际代码中,不可能用gevent.sleep()去切换协程,而是在执行IO操作是,gevent自动切换,参考代码如下

importgeventfrom gevent importmonkey; monkey.patch_all()importurllib2deff(url):print 'GET: %s' %url

resp=urllib2.urlopen(url)

data=resp.read()print '[%d] bytes received from %s\n' %(len(data), url)

gevent.joinall([

gevent.spawn(f,'http://www.cnblogs.com/kaituorensheng/'),

gevent.spawn(f,'https://www.python.org/'),

gevent.spawn(f,'https://www.baidu.com'),

])

执行结果

GET: http://www.cnblogs.com/kaituorensheng/GET: https://www.python.org/GET: https://www.baidu.com

[227] bytes received from https://www.baidu.com

[14667] bytes received from http://www.cnblogs.com/kaituorensheng/[47348] bytes received from https://www.python.org/

可以看到3个url结束顺序并不是依次执行完的。

使用gevent,可以获得极高的并发性能,但gevent只能在Unix/Linux下运行,在Windows下不保证正常安装和运行。

由于gevent是基于IO切换的协程,所以最神奇的是,我们编写的Web App代码,不需要引入gevent的包,也不需要改任何代码,仅仅在部署的时候,用一个支持gevent的WSGI服务器,立刻就获得了数倍的性能提升。

python gevent服务器_python gevent 协程相关推荐

  1. python异步封装_python中用协程(异步)实现map函数,爬虫也可以封装进去,

    1.python中得函数map(),通过加延时发现,是单线程执行,有阻塞,实现如下: import time def A(a): time.sleep(0.5) c = a + 11 return c ...

  2. python模块介绍-gevent介绍:基于协程的网络库

    2019独角兽企业重金招聘Python工程师标准>>> python模块介绍-gevent介绍:基于协程的网络库 介绍 gevent是基于协程的Python网络库.特点: 基于lib ...

  3. python正在处理中_协程和 asyncio

    在本系列的 第 1 部分 中,您了解了 Python 迭代器:在 第 2 部分 中,您了解了 itertools.在这一部分,将了解一种称为协程(Coroutines)的特殊的生成器函数.您还将了解另 ...

  4. python 进程,线程,协程篇

    python 进程,线程,协程篇 ssh 线程 进程 线程,进程区别 threading 模块,两种调用方式 python GIL全局解释器锁(Global Interpreter Lock) Joi ...

  5. Python 线程和进程和协程总结

    Python 线程和进程和协程总结 线程和进程和协程 进程 进程是程序执行时的一个实例,是担当分配系统资源(CPU时间.内存等)的基本单位: 进程有独立的地址空间,一个进程崩溃后,在保护模式下不会对其 ...

  6. 线程 协程 python_在Python 的线程中运行协程的方法

    在一篇文章 理解Python异步编程的基本原理 这篇文章中,我们讲到,如果在异步代码里面又包含了一段非常耗时的同步代码,异步代码就会被卡住. 那么有没有办法让同步代码与异步代码看起来也是同时运行的呢? ...

  7. python从网址爬图片协程_python协程gevent案例 爬取斗鱼图片过程解析

    分析 分析网站寻找需要的网址 用谷歌浏览器摁F12打开开发者工具,然后打开斗鱼颜值分类的页面,如图: 在里面的请求中,最后发现它是以ajax加载的数据,数据格式为json,如图: 圈住的部分是我们需要 ...

  8. python从网址爬图片协程_python协程gevent案例:爬取斗鱼美女图片

    分析 分析网站寻找需要的网址 用谷歌浏览器摁F12打开开发者工具,然后打开斗鱼颜值分类的页面,如图: 在里面的请求中,最后发现它是以ajax加载的数据,数据格式为json,如图: 圈住的部分是我们需要 ...

  9. python从网址爬图片协程_python 用 gevent 协程抓取海量网页

    python作为爬虫利器,抓网页的方式简洁明了.爬成百上千的网页,都可以很快爬完,但是如果网页数量上万呢?速度就不能忍受了. 这是一段爬取页面的函数,用了requests库:1 2 3 4 5impo ...

最新文章

  1. Linux的vi命令作用?
  2. mysql最大连接数查询_MYSQL 查看最大连接数和修改最大连接数
  3. Ubuntu 12.10 安装官方JDK
  4. c++求区间第k大数_翔哥炒股经验23 K线形态学50节 第10节:K线区间震荡
  5. ios category类别的使用
  6. Action详解(一)
  7. Invalid bean definition with name ‘dataSourceCSS‘ dfined in class path resource[xxx]
  8. 腾讯云公布5G产品矩阵;IntelliJ IDEA 2020.2.1发布| 极客头条
  9. 从linux使用sz命令下载大于4g的文件到windows
  10. 卸载所有supervisor残留_拯救C盘!这个良心的卸载工具还是免费的?!
  11. 帆软mysql迁移_平台数据迁移- FineReport帮助文档|报表开发|报表使用|学习教程
  12. React Native学习笔记(二)---运行开源App,形成直观感受
  13. 怎样免费快速把PDF文件压缩到最小?
  14. 蓝桥杯-ds18b20使用(小白专享)
  15. 深入理解Java类加载器(2):线程上下文类加载器
  16. AutoCAD Civil 3D 介绍
  17. C++ inheritance examples
  18. Adobe Illustrator自制苏大计科院院徽
  19. FreeDOM —— 一个可迁移的网页信息抽取模型
  20. CenterPoint 学习笔记

热门文章

  1. 几段小代码解释Python命令式编程和函数式编程
  2. Linux 进程信号详细总结
  3. 原生js、jq移入移出事件
  4. oracle sql如何剔除周末,Oracle 跳过周末的sql
  5. java bootstrapcache_使用ehcache持久化数据到磁盘 并且在应用服务器重启后不丢失数据...
  6. abaqus生成adams柔性体_1:ABAQUS有限元分析-ABAQUS软件介绍
  7. php智能代码,php智能分页类代码原创
  8. adb logcat 保存_adb logcat命令查看并过滤android输出log
  9. Python多线程笔记——简单函数版和类实现版
  10. qml入门学习(六):Component组件