7th,Python基础4——迭代器、生成器、装饰器、Json&pickle数据序列化、软件目录结构规范

1、列表生成式,迭代器&生成器

要求把列表[0,1,2,3,4,5,6,7,8,9]里面的每个值都加1,如何实现?

匿名函数实现:

a = map(lambda x:x+1, a)
for i in a:
    print(i)

列表生成式实现:

a = [i+1 for i in range(10)]

生成器

通过列表生成式,可以直接创建一个列表。但是,受到内存限制,列表容量肯定是有限的。而且,创建一个包含100万个元素的列表,不仅占用很大的存储空间,如果我们仅仅需要访问前面几个元素,那后面绝大多数元素占用的空间都白白浪费了。

所以,如果列表元素可以按照某种算法推算出来,那我们是否可以在循环的过程中不断推算出后续的元素呢?这样就不必创建完整的list,从而节省大量的空间。

在Python中,这种一边循环一边计算的机制,称为生成器:generator

要创建一个generator,有很多种方法。

第一种方法:只要把一个列表生成式的[ ]改成( ),就创建了一个generator:

L = [x * x for x in range(10)]

g = (x * x for x in range(10))

创建L和g的区别仅在于最外层的[ ]和( ),L是一个list,而g是一个generator。

要一个一个打印出来generator的元素,可以通过next( )函数获得generator的下一个返回值:

next(g)

generator保存的是算法,每次调用next(g),就计算出g的下一个元素的值,直到计算到最后一个元素,没有更多的元素时,抛出StopIteration的错误。

正确的调用方法使用for循环,因为generator也是可迭代对象:

g = (x * x for x in range(10))
for n in g:
    print(n)

所以,创建了一个generator后,基本上永远不会调用next( ),而是通过for循Iter的c环来迭代它,并且不需要关心StopIteration的错误。

generator非常强大。

如果推算的算法比较复杂,用类似列表生成式的for循环无法实现的时候,还可以用函数来显示。

例如:

著名的菲波那切数列,除第一个和第二个数外,任意一个数都可由前两个数相加得到:

1,1,2,3,5,8,13,21,34

用函数打印斐波那契数列:

def fib(max):
    n, a, b = 0, 0, 1
    while n < max:
        print(b)
        a, b = b, a + b
        n = n + 1
    return 'done'

此处的赋值语句:

a, b = b, a + b
#相当于:
t = (b, a + b)
a = t[0]
b = t[1]

不必显式写出临时变量t就可以赋值。

上面的函数可以输出菲波那切数列的前N个数:

fib(10)

fib函数实际上是定义了斐波那契额数列的推算规则,可以从第一个元素开始,推算出后续任意的元素,这种逻辑其实非常类似generator。

也就是说,上面的函数和generator仅差一步。要不fib函数变为generator,只需要把print(b)改为yield b即可:

def fib(max):
    n, a, b = 0, 0, 1

    while n < max:
        yield b
        a, b = b, a+b

        n += 1

    return 'done'

如果一个函数定义中包含yield关键字,那么这个函数就不再是一个普通函数,而是一个generator。

注意:gener和函数的执行流程不一样。

函数是顺序执行,遇到return语句或者最后一行函数语句就返回。

变为generator的函数,在每次调用next( )的时候执行,遇到yield语句返回,再次执行时从上次返回的yield语句处继续执行。

data = fib(10)
print(data)

print(data.__next__())
print(data.__next__())
print("干点别的事")
print(data.__next__())
print(data.__next__())
print(data.__next__())
print(data.__next__())
print(data.__next__())

#输出
<generator object fib at 0x101be02b0>
1
干点别的事
3
8

在上面fib的例子,在循环过程中不断调用yield,就会不断中断。当然要给循环设置一个条件来退出循环,不然就会产生一个无限数列出来。

同样的,把函数改成generator后,我们基本上从来不会用next()来获取下一个返回值,而是直接使用for循环来迭代:

for n in fib(6):
    print(n)

但是用for循环调用generator时,发现拿不到generator的return语句的返回值。如果想要拿到返回值,必须捕获StopIteration错误,返回值包含在StopIteration的value中:

g = fib(6)
while True:
    try:
        x = next(g)
        print('g:', x)
    except StopIteration as e:
        print("Generator return value:", e.value)
        break

还可通过yield实现在单线程的情况下实现并发运算的效果

#_*_coding:utf-8_*_
__author__ = 'Alex Li'

import time
def consumer(name):
    print("%s 准备吃包子啦!" %name)
    while True:
       baozi = yield

       print("包子[%s]来了,被[%s]吃了!" %(baozi,name))

def producer(name):
    c = consumer('A')
    c2 = consumer('B')
    c.__next__()
    c2.__next__()
    print("老子开始准备做包子啦!")
    for i in range(10):
        time.sleep(1)
        print("做了2个包子!")
        c.send(i)
        c2.send(i)

producer("alex")

迭代器

可以直接作用于for循环的数据类型有以下几种:

1、集合数据类型,如list、tuple、dict、set、str等;

2、generator,包括生成器和带yield的generator function

这些可以直接作用于for循环的对象统称为可迭代对象:Iterable。

可以使用isinstance()判断一个对象是否是Iterable对象:

>>> from collections import Iterable
>>> isinstance([], Iterable)
True
>>> isinstance({}, Iterable)
True
>>> isinstance('abc', Iterable)
True
>>> isinstance((x for x in range(10)), Iterable)
True
>>> isinstance(100, Iterable)
False

而生成器不但可以用于for循环,还可以被next( )函数不断调用并返回下一个值,直到最后抛出StopIteration错误表示无法继续返回下一个值了。

可以被next( )函数调用并不断返回下一个值的对象称为迭代器:Iterator。

可以使用isinstance( )判断一个对象是否是Iterator对象:

>>> from collections import Iterator
>>> isinstance((x for x in range(10)), Iterator)
True
>>> isinstance([], Iterator)
False
>>> isinstance({}, Iterator)
False
>>> isinstance('abc', Iterator)
False

生成器都是Iterator对象,但list、dict、str虽然是Iterable,却不是Iterator。

把list、dict、str等Iterable变成Iterator可以使用iter( )函数:

>>> isinstance(iter([]), Iterator)
True
>>> isinstance(iter('abc'), Iterator)
True

为什么list、dict、str等数据类型不是Iterator?

因为Python的Iter对象表示的是一个数据流,Iterator对象可以被next( )函数调用并不断返回下一个数据,直到没有数据时抛出StopIteration错误。可以把这个数据流看做是一个有序序列,但我们却不能提前知道序列的长度,只能不断通过next( )函数实现按需计算下一个数据,所以Iterator的计算是惰性的,只有在需要返回下一个数据时它才会计算。

Iterator甚至可以表示一个无限大的数据流,例如全体自然数。而使用list是永远不可能存储全体自然数的。

小结

凡是可作用于for循环的对象都是Iterable类型;

凡是可作用于next( )函数的对象都是Iterator类型,他们表示一个惰性计算的序列;

集合数据类型如list、dict、str等是Iterable但不是Iterator,不过可以通过iter( )函数获得一个Iterator对象。

Python的for循环,本质上就是通过不断调用next( )函数实现的,例如:

for x in [1, 2, 3, 4, 5]:
    pass

###完全等价于###

# 首先获得Iterator对象:
it = iter([1, 2, 3, 4, 5])
# 循环:
while True:
    try:
        # 获得下一个值:
        x = next(it)
    except StopIteration:
        # 遇到StopIteration就退出循环
        break

2、装饰器

软件开发原则:“开放-封闭”原则

封闭:已实现的功能代码块不应该被修改;

开放:对现有功能的扩展开放。

 2.1函数调用顺序

Python类似其他高级语言,不允许在函数为声明之前,对其进行引用或者调用

#正确示范
#Python为解释执行,函数foo在调用前已经声明了bar和foo,所以bar和foo无顺序之分
def bar():
    print "in the bar"
def foo():
    print "in the foo"
    bar()
foo()

def foo():
    print "in the foo"
    bar()
def bar():
    print "in the bar"
foo()

2.2高阶函数

满足下列条件之一就可以称函数为高阶函数

1、某一函数当做参数传入另一个函数中;

2、函数的返回值包含n个函数,n>0.

#高阶函数示范
def bar():
    print "in the bar"
def foo(func):
    res = func()
    return res
foo(bar)
#高阶函数的牛逼之处:
def foo(func):
    return func

print "Function body is %s" %(foo(bar))
print "Function name is %s" %(foo(bar).func_name)
foo(bar)()
#foo(bar)()等同于bar=foo(bar)然后bar()
bar=foo(bar)
bar()

2.3内嵌函数和变量作用域

定义:在一个函数内创建另外一个函数,这种函数就叫做内嵌函数(基于Python支持静态嵌套域)

#函数嵌套示范:
def foo():
    def bar():
        print "in the bar"

    bar()

foo()
#局部作用域和全局作用域的访问顺序
x = 0
def grandpa():
    # x=1
    def dad():
        x=2
        def son():
            x=3
            print(x)
         son()
    dad()
grandpa()
#局部变量修改对全局变量的影响
y=10
#def test():
#    y+=1
#    print(y)

def test():
    #global y
    y=2
    print(y)

test()
print(y)

def dad():
    m=1
    def son():
        n=2
        print "--->", m + n
    print "-->", m
    son()
dad()

2.4闭包

如果在一个内部函数里,对在外部作用域(但不是在全局作用域)的变量进行引用,那么内部函数就被认为是 closure

def counter(start_num=0):
    count=[start_num]
    def incr():
        count[0]+=1
        return count[0]
    return incr

print(counter())
print(counter()())

c=counter()
print(c())

2.5装饰器 = 内嵌函数+高阶函数+闭包

####例一:函数参数固定####
def decorartor(func):
    def wrapper(n):
        print("starting")
        func(n)
        print("stopping")
    return wrapper

def test(n):
    print("in the test arg is %s", %n)

decorartor(test)("alex")
####例二:函数参数不固定####
def decorartor(func):
    def wrapper(*args, **kwargs):
        print("starting")
        func(*args, **kwargs)
        print("stopping")
    return wrapper

def test(n, x=1):
    print("in the test arg is %s" %n)

decorartor(test)("alex", x=2)

2.5.1无参装饰器

import time
def decorator(func):
    def wrapper(*args, **kwargs):
        start=time.time()
        func(*args, **kwargs)
        stop=time.time()
        print("run time is %s"%(stop-start))
        print("timeout")
    return wrapper

@decorator
def test(list_test):
    for i in list_test:
        time.sleep(0.1)
        print("-"*20,i)

#decorator(test)(range(10))
test(range(10))

2.5.2有参装饰器

import time
def timer(timeout=0):
    def wrapper(*args, **kwargs):
        start=time.time()
        func(*args, **kwargs)
        stop=time.time()
        print("run time is %s"%(stop-start))
        print(timeout)
    return wrapper
return decorator

@timer(2)
def test(list_test):
    for i in list_test:
        time.sleep(0.1)
        print("-"*20,i)

#timer(timeout=10)(test)(range(10))
test(range(10))

3、软件目录结构规范

为什么要设计好目录结构?

设计一个层次清晰的目录结构,可以达到以下两点:

(1)可读性高:不熟悉这个项目代码的人,一眼就能看懂目录结构,知道程序启动脚本是哪个,测试目录在哪,配置文件在哪等等。从而非常快速的了解这个项目;

(2)可维护性高:定义好组织规则后,维护者就能很明确地知道,新增的哪个文件和代码应该放在什么目录下。这个好处是,随着时间的推移,代码/配置的规则增加,项目结构不会混乱,仍然能够组织良好。

目录组织方式

假设项目名为foo,最方便快捷的目录结构这样就足够了:

Foo/
|-- bin/
|   |-- foo
|
|-- foo/
|   |-- tests/
|   |   |-- __init__.py
|   |   |-- test_main.py
|   |
|   |-- __init__.py
|   |-- main.py
|
|-- docs/
|   |-- conf.py
|   |-- abc.rst
|
|-- setup.py
|-- requirements.txt
|-- README

解释如下:

(1)bin/:存放项目的一些可执行文件,当然你可以起名script/之类的也行;

(2)foo/:存放项目的所有源代码。

  1)源代码中的所有模块、包都应该放在此目录。不要置于顶层目录

  2)其子目录tests/存放单元测试代码

  3)程序的入口最好命名为main.py

(3)docs/:存放一些文档

(4)setup.py:安装、部署、打包的脚本

(5)requirement.txt存放软件以来的外部Python包列表

(6)README:项目说明文件

此外,有一些方案给出了更加多的内容。比如LICEBSE.txt,Changelog.txt文件等,这些东西主要是项目开源的时候需要用到。

各个目录的阐述

README内容

每个项目都应该有的一个文件,目的是简要描述该项目信息,让读者快速了解这个项目。

其需要说明以下几项:

(1)软件定位,软件基本功能;

(2)运行代码的方法:安装环境、启动命令等;

(3)简要的使用说明;

(4)代码目录结构说明,更详细点可以说明软件的基本原理;

(5)常见问题说明。

requirements.txt和setup.py

setup.py

一般,用setup.py来管理代码的打包、安装部署问题。业界标准的写法是用Python流行的打包工具setuptools来管理这些事情。这种方式普遍应用于开源项目中。不过这里的核心思想不是用标准化的工具来解决这些问题,而是说,一个项目一定要有一个安装部署工具,能快速便捷的在一台新机器上讲环境装好、代码部署好和讲程序运行起来。

例如:安装环境、部署代码、运行程序这个过程全是手动完成,就会遇到过以下问题:

  1. 安装环境时经常忘了最近又添加了一个新的Python包,结果一到线上运行,程序就出错了。
  2. Python包的版本依赖问题,有时候我们程序中使用的是一个版本的Python包,但是官方的已经是最新的包了,通过手动安装就可能装错了。
  3. 如果依赖的包很多的话,一个一个安装这些依赖是很费时的事情。
  4. 新同学开始写项目的时候,将程序跑起来非常麻烦,因为可能经常忘了要怎么安装各种依赖。

setup.py可以将这些事情自动化起来,提高效率、减少出错的概率。"复杂的东西自动化,能自动化的东西一定要自动化。"是一个非常好的习惯。

requirements.txt

这个文件存在的目的是:

  (1)方便开发者维护软件的包依赖。将开发过程中新增的包添加进这个列表中,避免在setup.py安装依赖时漏掉软件包;

  (2)方便读者明确项目使用了哪些Python包。

这个文件的格式是每一行包含一个包依赖的说明,通常是flask>=0.10这种格式。

配置文件的使用方法

很多项目对配置文件的使用做法是:

  (1)模块的配置都是可以灵活配置的,不受外部配置文件的影响;

  (2)程序的配置也是可以灵活控制的

上一篇:使用 svn+maven+jenkins(hudson)+Publish Over SSH plugins 构建持续集成及自动远程发布体系(转)


下一篇:python基础-软件目录开发规范