原文:http://hyry.dip.jp/tech/slice/slice.html/35
Python Notebook简介1
IPython notebook目前已经成为用Python做教学、计算、科研的一个重要工具。本文介绍IPython notebook的一些基本用法,以及如何使用它调试Cython程序。
IPython Notebook使用浏览器作为界面,向后台的IPython服务器发送请求,并显示结果。在浏览器的界面中使用单元(Cell)保存各种信息。Cell有多种类型,经常使用的有表示格式化文本的Markdown单元,和表示代码的Code单元。
每个代码单元都有一个输出区域,在Code单元中输入代码,按 Shift-Enter 将运行此代码,代码中最后一个表达式的值将输出区域显示。如果希望屏蔽输出,可以在最后一条语句之后添加一个分号:”;”。此外,代码中还可以使用print语句在输出区域中显示信息。
在Markdown单元中还可以直接使用Html和Javascript。
数学公式
在Markdown单元中可以使用LaTeX表示数学公式,例如。数学公式的显示使用MathJax,缺省情况下,MathJax从网络上下载,如果希望离线使用它,需要在IPython Notebook中输入如下代码,把MathJax安装到本地磁盘中:
from IPython.external.mathjax import install_mathjax
install_mathjax()
Code单元的输出也可以显示为数学公式,例如在单元中输入如下代码,将显示为数学公式:
from IPython.display import Latex
Latex(r"$\sqrt{x^2+y^2}$")
SymPy的表达式也可以显示为LaTex,例如:
%load_ext sympyprinting
from sympy import *
x, y = symbols("x,y")
sqrt(x**2+y**2)
以%开头的为IPython的命令(Magic Command),这里通过%load_ext命令载入sympyprinting扩展插件,载入此插件之后,所有的SymPy表达式都显示为数学公式。
各种显示
IPython.display模块中提供了许多显示Python返回值的类,例如下面的代码用Image类显示”python.png”图片,缺省路径为Notebook文件所在的目录:
from IPython.display import Image
Image(filename="python.png")
Image还可以用来显示表示图像的字符串。例如下面的代码通过cv2的imencode()将NumPy数组转换为一个表示PNG图像数据的数组,然后将此数组转换为字符串之后通过Image()将显示为图像:
import cv2
import numpy as np
from IPython.display import Image
img = np.random.randint(0,255,(250,250,3))
cv2.blur(img, (11,11), img)
r, dat = cv2.imencode(".png",img)
Image(dat.tostring())
此外,还可以通过HTML和Javascript将Python代码的输出显示为Html,或者作为Javascript运行。
from IPython.display import Javascript
Javascript("alert('ok')")
将在浏览器中运行Javascript代码。
Magic命令
IPython中Magic命令有两种执行方式,以%开始的命令被称为行命令,它只对单行有效,以%%开头的为单元命令,它放在单元的第一行,对整个单元有效。例如timeit命令可以快速测试代码的执行效率,它可以作为行命令或者单元命令。
%timeit 1 + 1
%timeit 1.0 + 1.0
%timeit "1" + "1"
10000000 loops, best of 3: 52 ns per loop
10000000 loops, best of 3: 53.4 ns per loop
10000000 loops, best of 3: 50.9 ns per loop
%%timeit
s = 0
for i in xrange(100):
s += i
100000 loops, best of 3: 11 us per loop
每个Magic命令都可以指定参数,可以输入timeit?查看其帮助文档。下面让我们看看一些常用的Magic命令。
%pylab命令将载入numpy和pylab,并且将这两个模块中的名字载入到全局名字空间中。缺省参数时,它使用matplotlib的缺省界面库显示图表,如果带inline参数则将图表作为图像插入到Notebook中。使用界面库显示图像时可以使用交互工具,而将图表直接插入到Notebook中则有利于编写文档。
下面的例子,plot和random是从pylab和numpy中载入的。
%pylab inline
plot(random.randn(100));
Welcome to pylab, a matplotlib-based Python environment [backend: module://IPython.zmq.pylab.backend_inline].
For more information, type 'help(pylab)'.
%load可以从文件或者网址载入代码到一个新的单元中,例如下面载入某个matplotlib的示例程序,并执行:
%load http://matplotlib.org/mpl_examples/pylab_examples/histogram_demo.py
#!/usr/bin/env python
import numpy as np
import matplotlib.mlab as mlab
import matplotlib.pyplot as plt mu, sigma = 100, 15
x = mu + sigma*np.random.randn(10000) # the histogram of the data
n, bins, patches = plt.hist(x, 50, normed=1, facecolor='green', alpha=0.75) # add a 'best fit' line
y = mlab.normpdf( bins, mu, sigma)
l = plt.plot(bins, y, 'r--', linewidth=1) plt.xlabel('Smarts')
plt.ylabel('Probability')
plt.title(r'$\mathrm{Histogram\ of\ IQ:}\ \mu=100,\ \sigma=15$')
plt.axis([40, 160, 0, 0.03])
plt.grid(True) plt.show()
%prun用于代码的执行性能分析,可以作为行命令和单元命令使用。下面的程序分析numpy.linalg.det()的性能:
%%prun
for i in xrange(100):
linalg.det(random.rand(10,10))
其输出如下:
3402 function calls in 0.096 seconds Ordered by: internal time ncalls tottime percall cumtime percall filename:lineno(function)
100 0.032 0.000 0.091 0.001 linalg.py:1560(slogdet)
300 0.022 0.000 0.022 0.000 {method 'reduce' of 'numpy.ufunc' objects}
200 0.011 0.000 0.012 0.000 numeric.py:167(asarray)
100 0.006 0.000 0.006 0.000 linalg.py:84(_realType)
100 0.005 0.000 0.005 0.000 linalg.py:151(_assertRank2)
...
%load_ext载入IPython的扩展模块,通过它可以载入更多的Magic命令。下面我们载入cythonmagic模块,并使用%%cython命令编译一个高效的频率统计函数count()。
%load_ext cythonmagic
测试Cython代码
Cython的代码基本和Python的代码类似,但是可以使用类型声明,Cython可以使用这些类型声明产生更高效的C语言代码,并编译成Python的扩展模块。使用%%cython命令简化了编译扩展模块的过程,它会自动创建C语言程序,编译并载入。由于扩展模块无法卸载,因此IPython采用的策略是每次编译不同的代码都会产生一个全新的扩展模块。方便我们不退出Python环境即可运行新的代码。
%%cython
def count(list data):
cdef:
dict result = {}
int i, length = len(data)
object item for i in range(length):
item = data[i]
if item in result:
(<list> result[item]).append(i)
else:
result[item] = [i]
return result
下面是count()的Python版本。
from collections import defaultdict
def countpy(data):
result = defaultdict(list)
for i,item in enumerate(data):
result[item].append(i)
return result
先测试二者的结果是否相同:
import random
data = [random.randint(0,100) for _ in xrange(10000)]
count(data) == countpy(data)
True
然后测试它们的执行速度,可以看出Cython版本比Python的要快2倍多。在这个测试中,Cython程序也同样使用列表和字典等对象,但是由于可以直接调用Python的C API,因此Cython版本的效率能提高几倍。如果只是单纯的数值运算,Cython能将程序提升到与C语言相近的速度。
%timeit countpy(data)
%timeit count(data)
100 loops, best of 3: 4.52 ms per loop
1000 loops, best of 3: 1.8 ms per loop