1、列表生成式,迭代器&生成器
要求把列表[0,1,2,3,4,5,6,7,8,9]里面的每个值都加1,如何实现?
匿名函数实现:
a = map(lambda x:x+1, a) for i in a: print(i)
列表生成式实现:
a = [i+1 for i in range(10)]
生成器
通过列表生成式,可以直接创建一个列表。但是,受到内存限制,列表容量肯定是有限的。而且,创建一个包含100万个元素的列表,不仅占用很大的存储空间,如果我们仅仅需要访问前面几个元素,那后面绝大多数元素占用的空间都白白浪费了。
所以,如果列表元素可以按照某种算法推算出来,那我们是否可以在循环的过程中不断推算出后续的元素呢?这样就不必创建完整的list,从而节省大量的空间。
在Python中,这种一边循环一边计算的机制,称为生成器:generator
要创建一个generator,有很多种方法。
第一种方法:只要把一个列表生成式的[ ]改成( ),就创建了一个generator:
L = [x * x for x in range(10)] g = (x * x for x in range(10))
创建L和g的区别仅在于最外层的[ ]和( ),L是一个list,而g是一个generator。
要一个一个打印出来generator的元素,可以通过next( )函数获得generator的下一个返回值:
next(g)
generator保存的是算法,每次调用next(g),就计算出g的下一个元素的值,直到计算到最后一个元素,没有更多的元素时,抛出StopIteration的错误。
正确的调用方法使用for循环,因为generator也是可迭代对象:
g = (x * x for x in range(10)) for n in g: print(n)
所以,创建了一个generator后,基本上永远不会调用next( ),而是通过for循Iter的c环来迭代它,并且不需要关心StopIteration的错误。
generator非常强大。
如果推算的算法比较复杂,用类似列表生成式的for循环无法实现的时候,还可以用函数来显示。
例如:
著名的菲波那切数列,除第一个和第二个数外,任意一个数都可由前两个数相加得到:
1,1,2,3,5,8,13,21,34
用函数打印斐波那契数列:
def fib(max): n, a, b = 0, 0, 1 while n < max: print(b) a, b = b, a + b n = n + 1 return 'done'
此处的赋值语句:
a, b = b, a + b #相当于: t = (b, a + b) a = t[0] b = t[1]
不必显式写出临时变量t就可以赋值。
上面的函数可以输出菲波那切数列的前N个数:
fib(10)
fib函数实际上是定义了斐波那契额数列的推算规则,可以从第一个元素开始,推算出后续任意的元素,这种逻辑其实非常类似generator。
也就是说,上面的函数和generator仅差一步。要不fib函数变为generator,只需要把print(b)改为yield b即可:
def fib(max): n, a, b = 0, 0, 1 while n < max: yield b a, b = b, a+b n += 1 return 'done'
如果一个函数定义中包含yield关键字,那么这个函数就不再是一个普通函数,而是一个generator。
注意:gener和函数的执行流程不一样。
函数是顺序执行,遇到return语句或者最后一行函数语句就返回。
变为generator的函数,在每次调用next( )的时候执行,遇到yield语句返回,再次执行时从上次返回的yield语句处继续执行。
data = fib(10) print(data) print(data.__next__()) print(data.__next__()) print("干点别的事") print(data.__next__()) print(data.__next__()) print(data.__next__()) print(data.__next__()) print(data.__next__()) #输出 <generator object fib at 0x101be02b0> 1 干点别的事 3 8
在上面fib的例子,在循环过程中不断调用yield,就会不断中断。当然要给循环设置一个条件来退出循环,不然就会产生一个无限数列出来。
同样的,把函数改成generator后,我们基本上从来不会用next()来获取下一个返回值,而是直接使用for循环来迭代:
for n in fib(6): print(n)
但是用for循环调用generator时,发现拿不到generator的return语句的返回值。如果想要拿到返回值,必须捕获StopIteration错误,返回值包含在StopIteration的value中:
g = fib(6) while True: try: x = next(g) print('g:', x) except StopIteration as e: print("Generator return value:", e.value) break
还可通过yield实现在单线程的情况下实现并发运算的效果
#_*_coding:utf-8_*_ __author__ = 'Alex Li' import time def consumer(name): print("%s 准备吃包子啦!" %name) while True: baozi = yield print("包子[%s]来了,被[%s]吃了!" %(baozi,name)) def producer(name): c = consumer('A') c2 = consumer('B') c.__next__() c2.__next__() print("老子开始准备做包子啦!") for i in range(10): time.sleep(1) print("做了2个包子!") c.send(i) c2.send(i) producer("alex")
迭代器
可以直接作用于for循环的数据类型有以下几种:
1、集合数据类型,如list、tuple、dict、set、str等;
2、generator,包括生成器和带yield的generator function
这些可以直接作用于for循环的对象统称为可迭代对象:Iterable。
可以使用isinstance()判断一个对象是否是Iterable对象:
>>> from collections import Iterable >>> isinstance([], Iterable) True >>> isinstance({}, Iterable) True >>> isinstance('abc', Iterable) True >>> isinstance((x for x in range(10)), Iterable) True >>> isinstance(100, Iterable) False
而生成器不但可以用于for循环,还可以被next( )函数不断调用并返回下一个值,直到最后抛出StopIteration错误表示无法继续返回下一个值了。
可以被next( )函数调用并不断返回下一个值的对象称为迭代器:Iterator。
可以使用isinstance( )判断一个对象是否是Iterator对象:
>>> from collections import Iterator >>> isinstance((x for x in range(10)), Iterator) True >>> isinstance([], Iterator) False >>> isinstance({}, Iterator) False >>> isinstance('abc', Iterator) False
生成器都是Iterator对象,但list、dict、str虽然是Iterable,却不是Iterator。
把list、dict、str等Iterable变成Iterator可以使用iter( )函数:
>>> isinstance(iter([]), Iterator) True >>> isinstance(iter('abc'), Iterator) True
为什么list、dict、str等数据类型不是Iterator?
因为Python的Iter对象表示的是一个数据流,Iterator对象可以被next( )函数调用并不断返回下一个数据,直到没有数据时抛出StopIteration错误。可以把这个数据流看做是一个有序序列,但我们却不能提前知道序列的长度,只能不断通过next( )函数实现按需计算下一个数据,所以Iterator的计算是惰性的,只有在需要返回下一个数据时它才会计算。
Iterator甚至可以表示一个无限大的数据流,例如全体自然数。而使用list是永远不可能存储全体自然数的。
小结
凡是可作用于for循环的对象都是Iterable类型;
凡是可作用于next( )函数的对象都是Iterator类型,他们表示一个惰性计算的序列;
集合数据类型如list、dict、str等是Iterable但不是Iterator,不过可以通过iter( )函数获得一个Iterator对象。
Python的for循环,本质上就是通过不断调用next( )函数实现的,例如:
for x in [1, 2, 3, 4, 5]: pass ###完全等价于### # 首先获得Iterator对象: it = iter([1, 2, 3, 4, 5]) # 循环: while True: try: # 获得下一个值: x = next(it) except StopIteration: # 遇到StopIteration就退出循环 break
2、装饰器
软件开发原则:“开放-封闭”原则
封闭:已实现的功能代码块不应该被修改;
开放:对现有功能的扩展开放。
2.1函数调用顺序
Python类似其他高级语言,不允许在函数为声明之前,对其进行引用或者调用
#正确示范 #Python为解释执行,函数foo在调用前已经声明了bar和foo,所以bar和foo无顺序之分 def bar(): print "in the bar" def foo(): print "in the foo" bar() foo() def foo(): print "in the foo" bar() def bar(): print "in the bar" foo()
2.2高阶函数
满足下列条件之一就可以称函数为高阶函数
1、某一函数当做参数传入另一个函数中;
2、函数的返回值包含n个函数,n>0.
#高阶函数示范 def bar(): print "in the bar" def foo(func): res = func() return res foo(bar)
#高阶函数的牛逼之处: def foo(func): return func print "Function body is %s" %(foo(bar)) print "Function name is %s" %(foo(bar).func_name) foo(bar)() #foo(bar)()等同于bar=foo(bar)然后bar() bar=foo(bar) bar()
2.3内嵌函数和变量作用域
定义:在一个函数内创建另外一个函数,这种函数就叫做内嵌函数(基于Python支持静态嵌套域)
#函数嵌套示范: def foo(): def bar(): print "in the bar" bar() foo()
#局部作用域和全局作用域的访问顺序 x = 0 def grandpa(): # x=1 def dad(): x=2 def son(): x=3 print(x) son() dad() grandpa()
#局部变量修改对全局变量的影响 y=10 #def test(): # y+=1 # print(y) def test(): #global y y=2 print(y) test() print(y) def dad(): m=1 def son(): n=2 print "--->", m + n print "-->", m son() dad()
2.4闭包
如果在一个内部函数里,对在外部作用域(但不是在全局作用域)的变量进行引用,那么内部函数就被认为是 closure
def counter(start_num=0): count=[start_num] def incr(): count[0]+=1 return count[0] return incr print(counter()) print(counter()()) c=counter() print(c())
2.5装饰器 = 内嵌函数+高阶函数+闭包
####例一:函数参数固定#### def decorartor(func): def wrapper(n): print("starting") func(n) print("stopping") return wrapper def test(n): print("in the test arg is %s", %n) decorartor(test)("alex")
####例二:函数参数不固定#### def decorartor(func): def wrapper(*args, **kwargs): print("starting") func(*args, **kwargs) print("stopping") return wrapper def test(n, x=1): print("in the test arg is %s" %n) decorartor(test)("alex", x=2)
2.5.1无参装饰器
import time def decorator(func): def wrapper(*args, **kwargs): start=time.time() func(*args, **kwargs) stop=time.time() print("run time is %s"%(stop-start)) print("timeout") return wrapper @decorator def test(list_test): for i in list_test: time.sleep(0.1) print("-"*20,i) #decorator(test)(range(10)) test(range(10))
2.5.2有参装饰器
import time def timer(timeout=0): def wrapper(*args, **kwargs): start=time.time() func(*args, **kwargs) stop=time.time() print("run time is %s"%(stop-start)) print(timeout) return wrapper return decorator @timer(2) def test(list_test): for i in list_test: time.sleep(0.1) print("-"*20,i) #timer(timeout=10)(test)(range(10)) test(range(10))
3、软件目录结构规范
为什么要设计好目录结构?
设计一个层次清晰的目录结构,可以达到以下两点:
(1)可读性高:不熟悉这个项目代码的人,一眼就能看懂目录结构,知道程序启动脚本是哪个,测试目录在哪,配置文件在哪等等。从而非常快速的了解这个项目;
(2)可维护性高:定义好组织规则后,维护者就能很明确地知道,新增的哪个文件和代码应该放在什么目录下。这个好处是,随着时间的推移,代码/配置的规则增加,项目结构不会混乱,仍然能够组织良好。
目录组织方式
假设项目名为foo,最方便快捷的目录结构这样就足够了:
Foo/
|-- bin/
| |-- foo
|
|-- foo/
| |-- tests/
| | |-- __init__.py
| | |-- test_main.py
| |
| |-- __init__.py
| |-- main.py
|
|-- docs/
| |-- conf.py
| |-- abc.rst
|
|-- setup.py
|-- requirements.txt
|-- README
解释如下:
(1)bin/:存放项目的一些可执行文件,当然你可以起名script/之类的也行;
(2)foo/:存放项目的所有源代码。
1)源代码中的所有模块、包都应该放在此目录。不要置于顶层目录
2)其子目录tests/存放单元测试代码
3)程序的入口最好命名为main.py
(3)docs/:存放一些文档
(4)setup.py:安装、部署、打包的脚本
(5)requirement.txt存放软件以来的外部Python包列表
(6)README:项目说明文件
此外,有一些方案给出了更加多的内容。比如LICEBSE.txt,Changelog.txt文件等,这些东西主要是项目开源的时候需要用到。
各个目录的阐述
README内容
每个项目都应该有的一个文件,目的是简要描述该项目信息,让读者快速了解这个项目。
其需要说明以下几项:
(1)软件定位,软件基本功能;
(2)运行代码的方法:安装环境、启动命令等;
(3)简要的使用说明;
(4)代码目录结构说明,更详细点可以说明软件的基本原理;
(5)常见问题说明。
requirements.txt和setup.py
setup.py
一般,用setup.py来管理代码的打包、安装部署问题。业界标准的写法是用Python流行的打包工具setuptools来管理这些事情。这种方式普遍应用于开源项目中。不过这里的核心思想不是用标准化的工具来解决这些问题,而是说,一个项目一定要有一个安装部署工具,能快速便捷的在一台新机器上讲环境装好、代码部署好和讲程序运行起来。
例如:安装环境、部署代码、运行程序这个过程全是手动完成,就会遇到过以下问题:
- 安装环境时经常忘了最近又添加了一个新的Python包,结果一到线上运行,程序就出错了。
- Python包的版本依赖问题,有时候我们程序中使用的是一个版本的Python包,但是官方的已经是最新的包了,通过手动安装就可能装错了。
- 如果依赖的包很多的话,一个一个安装这些依赖是很费时的事情。
- 新同学开始写项目的时候,将程序跑起来非常麻烦,因为可能经常忘了要怎么安装各种依赖。
setup.py
可以将这些事情自动化起来,提高效率、减少出错的概率。"复杂的东西自动化,能自动化的东西一定要自动化。"是一个非常好的习惯。
requirements.txt
这个文件存在的目的是:
(1)方便开发者维护软件的包依赖。将开发过程中新增的包添加进这个列表中,避免在setup.py安装依赖时漏掉软件包;
(2)方便读者明确项目使用了哪些Python包。
这个文件的格式是每一行包含一个包依赖的说明,通常是flask>=0.10这种格式。
配置文件的使用方法
很多项目对配置文件的使用做法是:
(1)模块的配置都是可以灵活配置的,不受外部配置文件的影响;
(2)程序的配置也是可以灵活控制的