协程

1 协程

1.1协程的概念

  协程,又称微线程,纤程。英文名Coroutine。一句话说明什么是线程:协程是一种用户态的轻量级线程。(其实并没有说明白~)

  我觉得单说协程,比较抽象,如果对线程有一定了解的话,应该就比较好理解了。

  那么这么来理解协程比较容易:

  线程是系统级别的,它们是由操作系统调度;协程是程序级别的,由程序员根据需要自己调度。我们把一个线程中的一个个函数叫做子程序,那么子程序在执行过程中可以中断去执行别的子程序;别的子程序也可以中断回来继续执行之前的子程序,这就是协程。也就是说同一线程下的一段代码<1>执行着执行着就可以中断,然后跳去执行另一段代码,当再次回来执行代码块<1>的时候,接着从之前中断的地方开始执行。

  比较专业的理解是:

  协程拥有自己的寄存器上下文和栈。协程调度切换时,将寄存器上下文和栈保存到其他地方,在切回来的时候,恢复先前保存的寄存器上下文和栈。因此:协程能保留上一次调用时的状态(即所有局部状态的一个特定组合),每次过程重入时,就相当于进入上一次调用的状态,换种说法:进入上一次离开时所处逻辑流的位置。

1.2 协程的优缺点

协程的优点:

  (1)无需线程上下文切换的开销,协程避免了无意义的调度,由此可以提高性能(但也因此,程序员必须自己承担调度的责任,同时,协程也失去了标准线程使用多CPU的能力)

  (2)无需原子操作锁定及同步的开销

  (3)方便切换控制流,简化编程模型

  (4)高并发+高扩展性+低成本:一个CPU支持上万的协程都不是问题。所以很适合用于高并发处理。

协程的缺点:

  (1)无法利用多核资源:协程的本质是个单线程,它不能同时将 单个CPU 的多个核用上,协程需要和进程配合才能运行在多CPU上.当然我们日常所编写的绝大部分应用都没有这个必要,除非是cpu密集型应用。

  (2)进行阻塞(Blocking)操作(如IO时)会阻塞掉整个程序

2 Python中如何实现协程

2.1 yield实现协程

import time
import queue


def consumer(name):
    print("--->starting eating baozi...")
    while True:
        new_baozi = yield
        print("[%s] is eating baozi %s" % (name, new_baozi))
        # time.sleep(1)


def producer():
    r = con.__next__()
    r = con2.__next__()
    n = 0
    while n < 5:
        n += 1
        con.send(n)
        con2.send(n)
        # time.sleep(1)
        print("\033[32;1m[producer]\033[0m is making baozi %s" % n)


if __name__ == '__main__':
    con = consumer("c1")
    con2 = consumer("c2")
    p = producer()

2.2 greenlet实现协程

  Python的 greenlet就相当于手动切换,去执行别的子程序,在“别的子程序”中又主动切换回来。。。

from greenlet import greenlet

def test1():
    print(12)
    gr2.switch()
    print(34)
    gr2.switch()
def test2():
    print(56)
    gr1.switch()
    print(78)

gr1 = greenlet(test1) #启动一个携程
gr2 = greenlet(test2)
gr1.switch()

2.3 gevent 实现协程

  Gevent 是一个第三方库,可以轻松通过gevent实现协程程,在gevent中用到的主要模式是Greenlet, 它是以C扩展模块形式接入Python的轻量级协程。 Greenlet全部运行在主程序操作系统进程的内部,但它们被协作式地调度。

  gevent会主动识别程序内部的IO操作,当子程序遇到IO后,切换到别的子程序。如果所有的子程序都进入IO,则阻塞。

import gevent
from gevent import monkey
monkey.patch_all()  # 把当前程序所有IO操作单独进行标记
def foo():
    print("running in foo")
    gevent.sleep(2)
    print("Explicit context switch to foo  again")

def bar():
    print("Explicit context to bar")
    gevent.sleep(1)
    print("Explict context switch back to bar")
def func3():
    print("running func3")
    gevent.sleep(0)
    print("running func3 again")

gevent.joinall({
    gevent.spawn(foo), #生成一个协程
    gevent.spawn(bar),
    gevent.spawn(func3),
})

爬虫版

import gevent
import urllib
import urllib.request
import time
from gevent import monkey

monkey.patch_all()  # 把当前程序所有IO操作单独进行标记
header = {'User-Agent':'Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/49.0.2623.87 Safari/537.36'}
def f(url):
    print("GET:%s" % url)
    request0 = urllib.request.Request(url, headers=header)
    resp = urllib.request.urlopen(request0)
    data = resp.read()
    print("%d bytes received from %s " % (len(data),url))

urls = ["https://www.baidu.com","https://www.python.org","https://www.linuxidc.com/Linux/2017-10/147379.htm","https://github.com/"]

time_str = time.time()
for i in urls:
    f(i)
time_stop = time.time()
print("download time %s \n\n" % (time_stop - time_str))

time_str = time.time()

gevent.joinall({
    gevent.spawn(f, urls[0]),
    gevent.spawn(f, urls[1]),
    gevent.spawn(f, urls[2]),
    gevent.spawn(f, urls[3]),
})

time_stop = time.time()
print("download time %s" % (time_stop - time_str))