# coding=utf-8

# windows下多进程加协程并发模式

# 打入gevent的monkey补丁

from gevent import monkey

monkey.patch_all()

# 导入协程池

from gevent.pool import Pool

import urllib2

# 导入多进程模块

import multiprocessing

import time

# 定义一个爬取微博网页的方法

def html(url=u'http://weibo.com/'):

    # 用上多进程的锁机制，用于防止连续打印

    lock = multiprocessing.Lock()

    try:

        h = urllib2.urlopen(url).read()

    except:

        lock.acquire()

        print u'连接错误'

        lock.release()

    else:

        lock.acquire()

        print u'done'

        lock.release()

# 定义一个协程并发方法（用的是gevent的协程池）

def a(num):

    pool = Pool(100)

    # 协程池的map方法可以让你自定义并发次数，这里可以自定义爬取微博网页的并发次数，第一个参数是要执行的函数

    # 第二个参数可以理解成需要并发参数的次数

    pool.map(html, [u'http://weibo.com/' for i in xrange(num)])

    pool.kill()

    pool.join()

# 这个是比较关键的一个方法，就是协程加多进程的并发模式

def b(num):

    t = []

    # 建立10个进程来并行协程即方法a

    for i in xrange(10):

        p = multiprocessing.Process(target=a, args=(num,))

        p.start()

        t.append(p)

    for each in t:

        each.join()

# 对比多进程加协程与纯粹协程的各自的并发状态

if __name__ == '__main__':

    print u'方法b开始计时：'

    start = time.time()

    b(10)

    print u'方法b总共花费%f秒' % (time.time() - start)

    print u'方法a开始计时：'

    start = time.time()

    a(100)

    print u'方法a总共花费%f秒' % (time.time() - start)