Python进阶----异步同步,阻塞非阻塞,线程池(进程池)的异步+回调机制实行并发, 线程队列(Queue, LifoQueue,PriorityQueue), 事件Event,线程的三个状态(就绪,挂起,运行) ,***协程概念,yield模拟并发(有缺陷),Greenlet模块(手动切换),Gevent(协程并发)

一丶同步,异步

同步:

   所谓同步就是一个任务需要依赖另一个任务时,只有被依赖任务执行完毕之后,依赖的任务才会完成.这是可靠的任务序列.要么都成功,要么失败,两个任务的状态可以保持一致.

异步:

   所谓异步不需要等待被依赖的任务完成,只是通知依赖的任务要完成什么工作.依赖的任务也立即执行,只要自己完成了整个任务就算完成了. 至于被依赖的任务是否完成,依赖它的任务无法确定,是不可靠的任务序列

### 同步和异步

## 比如我去银行办理业务，可能会有两种方式：

# 第一种 ：选择排队等候；

# 第二种 ：选择取一个小纸条上面有我的号码，等到排到我这一号时由柜台的人通知我轮到我去办理业务了；

# 第一种：前者(排队等候)就是同步等待消息通知，也就是我要一直在等待银行办理业务情况；

# 第二种：后者(等待别人通知)就是异步等待消息通知。在异步消息处理中，等待消息通知者(在这个例子中就是等待办理业务的人)往往注册一个回调机制，在所等待的事件被触发时由触发机制(在这里是柜台的人)通过某种机制(在这里是写在小纸条上的号码，喊号)找到等待该事件的人。

二丶阻塞,非阻塞,

   阻塞和非阻塞两个概念与程序(也就是执行程序的'线程')等待消息通知时的状态相关

阻塞:

   在程序中,阻塞代表程序'卡'在某处,必须等待这处执行完毕才能继续执行.通常的阻塞大多数是IO阻塞

   比如:银行排队取钱是一条流水线,现在负责取钱的服务人员饿了,他必须吃饭(阻塞). 只有吃完饭才能继续回来服务你.此时你就必须等待他,否则你将无法取钱.对于程序而言,就卡在了此处.

非阻塞:

   非阻塞就是没有IO阻塞,线程在执行任务时没有遇到IO阻塞.

   比如:你去银行取钱,在排队'等候'时什么事情都没有发生. 强调在执行的过程

​

同步阻塞:

   效率最低.你排着队取钱,服务人员吃饭去了(阻塞了),此时你只能等待,否则不能取钱.这就是同步+阻塞

异步阻塞:

   在银行等待办理业务的人,采用异步方式. 但是他不能离开银行

   异步操作是可以被阻塞住的，只不过它不是在处理消息时阻塞，而是在等待消息通知时被阻塞。

同步非阻塞:

   实际上是效率低下的。

   想象一下你一边打着电话一边还需要抬头看到底队伍排到你了没有，如果把打电话和观察排队的位置看成是程序的两个操作的话，这个程序需要在这两种不同的行为之间来回的切换，效率可想而知是低下的。

异步非阻塞:

   效率更高

   因为打电话是你(等待者)的事情，而通知你则是柜台(消息触发机制)的事情，程序没有在两种不同的操作中来回切换。

   比如说，这个人突然发觉自己烟瘾犯了，需要出去抽根烟，于是他告诉大堂经理说，排到我这个号码的时候麻烦到外面通知我一下，那么他就没有被阻塞在这个等待的操作上面，自然这个就是异步+非阻塞的方式了。

   很多人会把同步和阻塞混淆，是因为很多时候同步操作会以阻塞的形式表现出来，同样的，很多人也会把异步和非阻塞混淆，因为异步操作一般都不会在真正的IO操作处被阻塞。

三丶异步+回调机制

提高效率版:

#######  并发爬取 , 并发处理爬取结果

        # 缺点: 1.增强了耦合性,

        #      2.开启进程耗费资源

        # 优点: 1. 提高处理效率

from  concurrent.futures import ProcessPoolExecutor

import time

import random

import os

import requests

def get_html(url):

    response=requests.get(url)

    print(f'{os.getpid()} 正在爬取网页~~~')

    if response.status_code==200:

        parser_html(response.text)

def parser_html(obj):

    print(f'总字符长度:{len(obj.result()) }')

if __name__ == '__main__':

    url_list = [

        'http://www.taobao.com',

        'http://www.JD.com',

        'http://www.JD.com',

        'http://www.JD.com',

        'http://www.baidu.com',

        'https://www.cnblogs.com/jin-xin/articles/11232151.html',

        'https://www.cnblogs.com/jin-xin/articles/10078845.html',

        'http://www.sina.com.cn',

        'https://www.sohu.com',

        'https://www.youku.com',

    ]

    pool=ProcessPoolExecutor(4)         # 开启了一个进程池 有4个进程资源

    for url in url_list:

        obj=pool.submit(get_html,url)   #  异步的开启了 10个任务,4个进程并行(并发)执行.

    pool.shutdown(wait=True)    # 必须等待所有的子进程任务执行完毕

降低耦合版本:

# 并发爬取, 串行解析结果

########### 回调函数 + 异步

	#  1. 降低了耦合性, 由回调函数 去通知执行下一个任务(造成这个任务会经历串行)

	#  2. 处理爬取结果时是串行处理,影响效率

import requests

from concurrent.futures import ProcessPoolExecutor

from multiprocessing import Process

import time

import random

import os

def get(url):

    response = requests.get(url)

    print(f'{os.getpid()} 正在爬取:{url}')

    # time.sleep(random.randint(1,3))

    if response.status_code == 200:

        return response.text

def parse(obj):

    '''

    对爬取回来的字符串的分析

    简单用len模拟一下.

    :param text:

    :return:

    '''

    time.sleep(1)

    ### obj.result() 取得结果

    print(f'{os.getpid()} 分析结果:{len(obj.result())}')

if __name__ == '__main__':

    url_list = [

        'http://www.taobao.com',

        'http://www.JD.com',

        'http://www.JD.com',

        'http://www.JD.com',

        'http://www.baidu.com',

        'https://www.cnblogs.com/jin-xin/articles/11232151.html',

        'https://www.cnblogs.com/jin-xin/articles/10078845.html',

        'http://www.sina.com.cn',

        'https://www.sohu.com',

        'https://www.youku.com',

    ]

    start_time = time.time()

    pool = ProcessPoolExecutor(4)

    for url in url_list:

        obj = pool.submit(get, url)

        obj.add_done_callback(parse)  # 增加一个回调函数

        # 现在的进程完成的还是网络爬取的任务,拿到了返回值之后,结果丢给回调函数add_done_callback,

        # 回调函数帮助你分析结果

        # 进程继续完成下一个任务.

    pool.shutdown(wait=True)

    print(f'主: {time.time() - start_time}')

四丶线程队列

   使用 queue 模块

先进先出:FIFO

      Queue

# -*-coding:utf-8-*-

# Author:Ds

import queue

q = queue.Queue(3) # 先进先出队列

q.put(1)

q.put(2)

q.put('123')

# q.put(666)              # 阻塞 卡住了

# q.put(timeout=1)        # 超时1秒报错 queue.Full

# q.put(1,block=False)        # 非阻塞,直接报错 queue.Full

print(q.get())

print(q.get())

print(q.get())

# print(q.get())              #阻塞 卡住

# print(q.get(timeout=1))      #超时1秒报错 queue.Empty

print(q.get(block=False))       #非阻塞,直接报错queue.Empty

先进后出(后进先出):LIFO

      LifoQueue

# -*-coding:utf-8-*-

# Author:Ds

import queue

q = queue.LifoQueue(3) #后进先出队列 (栈)

q.put(1)

q.put(2)

q.put('123')

# q.put(666)              # 阻塞 卡住了

## q.put(timeout=1)        # 超时1秒报错 queue.Full

### q.put(1,block=False)        # 非阻塞,直接报错 queue.Full

print(q.get())

print(q.get())

print(q.get())

# print(q.get())              #阻塞 卡住

## print(q.get(timeout=1))      #超时1秒报错 queue.Empty

### print(q.get(block=False))       #非阻塞,直接报错queue.Empty

# 使用列表数据结构模拟栈

li=[]

li.append(1) # 后进  添加元素到列表末尾

li.pop()	 # 先出  移除列表末尾元素

优先级队列:

      PriorityQueue

# -*-coding:utf-8-*-

# Author:Ds

import queue

q = queue.PriorityQueue(3)	# 优先级队列

# 放入元组类型()数据, 第一个参数表示优先级别,第二个参数是真实数据

#  数字越低表示优先级越高

q.put((10, '垃圾消息'))

q.put((-9, '紧急消息'))

q.put((3, '一般消息'))

# q.put((3, '我被卡主了 '))              # 卡主了

# q.put((3, '我被卡主了 '),timeout=1)      # 超时报错: queue.Full

q.put((3, '我被卡主了 '),block=False)        # 不阻塞: queue.Full

print(q.get())

print(q.get())

print(q.get())

print(q.get())              #阻塞 卡住

print(q.get(timeout=1))      #超时1秒报错 queue.Empty

print(q.get(block=False))       #非阻塞,直接报错queue.Empty

五丶事件Event

   线程的一个关键特性是每个线程都是独立运行且状态不可预测。如果程序中的其 他线程需要通过判断某个线程的状态来确定自己下一步的操作,这时线程同步问题就会变得非常棘手。为了解决这些问题,我们需要使用threading库中的Event对象。 对象包含一个可由线程设置的信号标志,它允许线程等待某些事件的发生。在 初始情况下,Event对象中的信号标志被设置为假。如果有线程等待一个Event对象, 而这个Event对象的标志为假,那么这个线程将会被一直阻塞直至该标志为真。一个线程如果将一个Event对象的信号标志设置为真,它将唤醒所有等待这个Event对象的线程。如果一个线程等待一个已经被设置为真的Event对象,那么它将忽略这个事件, 继续执行

方法:

   event.isSet()：返回event的状态值；

   event.wait()：如果 event.isSet()==False将阻塞线程；

   event.set()：设置event的状态值为True,所有阻塞池的线程激活进入就绪状态,等待操作系统调度；

   event.clear()：恢复event的状态值为False

import time

from threading import Thread

from threading import current_thread

from threading import Event

event = Event()  # 默认是False

def task():

    print(f'{current_thread().name} 检测服务器是否正常开启....')

    time.sleep(3)

    event.set()  # 改成了True

def task1():

    print(f'{current_thread().name} 正在尝试连接服务器')

    # event.wait()  #　轮询检测event是否为Ｔrue,当其为True,继续下一行代码. 阻塞.

    event.wait(1)

    # 设置超时时间,如果1s中以内,event改成True,代码继续执行.

    # 设置超时时间,如果超过1s中,event没做改变,代码继续执行.

    print(f'{current_thread().name} 连接成功')

if __name__ == '__main__':

    t1 = Thread(target=task1,)

    t2 = Thread(target=task1,)

    t3 = Thread(target=task1,)

    t = Thread(target=task)

    t.start()

    t1.start()

    t2.start()

    t3.start()

红绿灯Event事件模型:

# _*_coding:utf-8_*_

# Author   :Ds

# CreateTime   2019/5/30 17:54 

import  threading ,time

event=threading.Event() # 声明一个event全局变量

def lighter():

    count=0         #计数

    event.set()     #设置有标志

    while True:        #循环

        if count > 5 and count<10:#    红灯5秒

            event.clear()# 清空标志位

            print("\033[41;1mred light is on...\033[0m")

        elif count>10:  #  绿灯5秒

            event.set()#变绿灯

            count=0 #清空count

        else:

            print('\033[42;1mgreen light is on...\033[0m')

        time.sleep(1)

        count+=1

def car(name):

    while True:

        if event.is_set(): #is_set 判断设置了标志位没有

            print('[%s] running ...'%name)

            time.sleep(1)

        else:

            print(' [%s] see red  light waiting '%name)

            event.wait()

            print('\033[43;lm [%s] green light  is on  ,start going ..\033[0m'%name)

light=threading.Thread(target=lighter,)

car1=threading.Thread(target=car,args=('特斯拉',))

car2=threading.Thread(target=car,args=('奔驰',))

light.start()

car1.start()

car2.start()

六丶协程

   进程是资源分配的最小单位,线程是CPU调度的最小单

   并发的本质：切换+保存状态

线程也具有三个状态:

      cpu正在运行一个任务，会在两种情况下切走去执行其他的任务（切换由操作系统强制控制），一种情况是该任务发生了阻塞，另外一种情况是该任务计算的时间过长

      ps：在介绍进程理论时，提及进程的三种执行状态，而线程才是执行单位，所以也可以将上图理解为线程的三种状态

yield模拟并发:

      1. yiled可以保存状态，yield的状态保存与操作系统的保存线程状态很像，但是yield是代码级别控制的，更轻量级

      2. send可以把一个函数的结果传给另外一个函数，以此实现单线程内程序之间的切换

   一：其中第二种情况并不能提升效率，只是为了让cpu能够雨露均沾，实现看起来所有任务都被“同时”执行的效果，如果多个任务都是纯计算的，这种切换反而会降低效率。为此我们可以基于yield来验证。yield本身就是一种在单线程下可以保存任务运行状态的方法，我们来简单复习一下：

'''

1、协程：

    单线程实现并发

    在应用程序里控制多个任务的切换+保存状态

    优点：

        应用程序级别速度要远远高于操作系统的切换

    缺点：

        多个任务一旦有一个阻塞没有切，整个线程都阻塞在原地

        该线程内的其他的任务都不能执行了

        一旦引入协程，就需要检测单线程下所有的IO行为,

        实现遇到IO就切换,少一个都不行，以为一旦一个任务阻塞了，整个线程就阻塞了，

        其他的任务即便是可以计算，但是也无法运行了

2、协程序的目的：

    想要在单线程下实现并发

    并发指的是多个任务看起来是同时运行的

    并发=切换+保存状态

'''

#串行执行

import time

def func1():

    for i in range(10000000):

        i+1

def func2():

    for i in range(10000000):

        i+1

start = time.time()

func1()

func2()

stop = time.time()

print(stop - start)

#基于yield并发执行

import time

def func1():

    while True:

        yield

def func2():

    g=func1()

    for i in range(10000000):

        i+1

        next(g)

start=time.time()

func2()

stop=time.time()

print(stop-start)

#  单纯地切换反而会降低运行效率

   二：第一种情况的切换。在任务一遇到io情况下，切到任务二去执行，这样就可以利用任务一阻塞的时间完成任务二的计算，效率的提升就在于此。

import time

def func1():

    while True:

        print('func1')

        yield

def func2():

    g=func1()

    for i in range(10000000):

        i+1

        next(g)

        time.sleep(3)

        print('func2')

start=time.time()

func2()

stop=time.time()

print(stop-start)

yield不能检测IO，实现遇到IO自动切换

协程介绍:

   协程：是单线程下的并发，又称微线程，纤程。英文名Coroutine。

   一句话说明什么是线程：协程是一种用户态的轻量级线程，即协程是由用户程序自己控制调度的。

需要强调的是:

#1. python的线程属于内核级别的，即由操作系统控制调度（如单线程遇到io或执行时间过长就会*交出cpu执行权限，切换其他线程运行）

#2. 单线程内开启协程，一旦遇到io，就会从应用程序级别（而非操作系统）控制切换，以此来提升效率（！！！非io操作的切换与效率无关）

优点如下：

   1.协程的切换开销更小，属于程序级别的切换，操作系统完全感知不到，因而更加轻量级

​   2.单线程内就可以实现并发的效果，最大限度地利用cpu

缺点如下：

   1.协程的本质是单线程下，无法利用多核，可以是一个程序开启多个进程，每个进程内开启多个线程，每个线程内开启协程

​   2.协程指的是单个线程，因而一旦协程出现阻塞，将会阻塞整个线程

总结协程特点：

   1.必须在只有一个单线程里实现并发

​   2.修改共享数据不需加锁

   3.用户程序里自己保存多个控制流的上下文栈

   4.附加：一个协程遇到IO操作自动切换到其它协程（如何实现检测IO，yield、greenlet都无法实现，就用到了gevent模块（select机制））

Greenlet模块:手动模拟切换

   安装 ：pip3 install greenlet

      手动实现切换

from greenlet import greenlet

def eat(name):

    print('%s eat 1' %name)

    g2.switch('egon')

    print('%s eat 2' %name)

    g2.switch()

def play(name):

    print('%s play 1' %name)

    g1.switch()

    print('%s play 2' %name)

g1=greenlet(eat)

g2=greenlet(play)

g1.switch('egon')	#可以在第一次switch时传入参数，以后都不需要

      效率对比:

         greenlet只是提供了一种比generator更加便捷的切换方式，当切到一个任务执行时如果遇到io，那就原地阻塞，仍然是没有解决遇到IO自动切换来提升效率的问题。

### 串行执行计算密集型~~  11.37856674194336

import time

def f1():

    res=1

    for i in range(100000000):

        res+=i

def f2():

    res=1

    for i in range(100000000):

        res*=i

start_time=time.time()

f1()

f2()

print(f'runing time {time.time()-start_time}')  # runing time 11.37856674194336

### 切换执行计算密集型~~  runing time 60.24287223815918

from greenlet import greenlet

import time

def f1():

    res=1

    for i in range(100000000):

        res+=i

        g2.switch()

def f2():

    res=1

    for i in range(100000000):

        res*=i

        g1.switch()

start_time=time.time()

g1=greenlet(f1)

g2=greenlet(f2)

g1.switch()

print(f'runing time {time.time()-start_time}')	# runing time 60.24287223815918

Gevent模块:

​   安装：pip3 install gevent

      Gevent 是一个第三方库，可以轻松通过gevent实现并发同步或异步编程，在gevent中用到的主要模式是Greenlet, 它是以C扩展模块形式接入Python的轻量级协程。 Greenlet全部运行在主程序操作系统进程的内部，但它们被协作式地调度

###  用法

g1=gevent.spawn(func,1,,2,3,x=4,y=5)创建一个协程对象g1，spawn括号内第一个参数是函数名，如eat，后面可以有多个参数，可以是位置实参或关键字实参，都是传给函数eat的

g2=gevent.spawn(func2)

g1.join() #等待g1结束

g2.join() #等待g2结束

#或者上述两步合作一步：gevent.joinall([g1,g2])

g1.value#拿到func1的返回值

​   遇到IO阻塞时会自动切换任务

import gevent

def eat(name):

    print('%s eat 1' %name)

    gevent.sleep(2)

    print('%s eat 2' %name)

def play(name):

    print('%s play 1' %name)

    gevent.sleep(1)

    print('%s play 2' %name)

g1=gevent.spawn(eat,'egon')

g2=gevent.spawn(play,name='egon')

g1.join()

g2.join()

#或者gevent.joinall([g1,g2])

print('主')

   '打补丁:monkey'

# from gevent import monkey

# monkey.patch_all()	必须放到被打补丁者的前面，

import threading

from gevent import monkey

monkey.patch_all()   	# 打补丁,自动切换

import gevent

import time

def eat():

    print(threading.current_thread().getName())	# 虚拟线程 DummyThread-n

    print('eat food 1')

    time.sleep(2)

    print('eat food 2')

def play():

    print(threading.current_thread().getName())	# 虚拟线程 DummyThread-n

    print('play 1')

    time.sleep(1)

    print('play 2')

g1=gevent.spawn(eat)

g2=gevent.spawn(play)

gevent.joinall([g1,g2])		# 执行g1 g2

print(threading.current_thread().getName())		# MainThread 主线程

print('主')

   协程应用:爬虫:

from gevent import monkey;monkey.patch_all()

import gevent

import requests

import time

def get_page(url):

    print('GET: %s' %url)

    response=requests.get(url)

    if response.status_code == 200:

        print('%d bytes received from %s' %(len(response.text),url))

start_time=time.time()

gevent.joinall([

    gevent.spawn(get_page,'https://www.python.org/'),

    gevent.spawn(get_page,'https://www.yahoo.com/'),

    gevent.spawn(get_page,'https://github.com/'),

])

stop_time=time.time()

print('run time is %s' %(stop_time-start_time))			# 使用协程爬取,计算爬取的时间