Python程序的执行原理(转载)

Python程序的执行原理

2013-09-17 10:35 佚名 tech.uc 
Python程序的执行原理(转载)

1. 过程概述

Python先把代码(.py文件)编译成字节码,交给字节码虚拟机,然后虚拟机一条一条执行字节码指令,从而完成程序的执行。

2. 字节码

字节码在Python虚拟机程序里对应的是PyCodeObject对象。
.pyc文件是字节码在磁盘上的表现形式。

3. pyc文件

PyCodeObject对象的创建时机是模块加载的时候,即import。
Python test.py会对test.py进行编译成字节码并解释执行,但是不会生成test.pyc。
如果test.py加载了其他模块,如import util,Python会对util.py进行编译成字节码,生成util.pyc,然后对字节码解释执行。
如果想生成test.pyc,我们可以使用Python内置模块py_compile来编译。
加载模块时,如果同时存在.py和.pyc,Python会尝试使用.pyc,如果.pyc的编译时间早于.py的修改时间,则重新编译.py并更新.pyc。

4. PyCodeObject

Python代码的编译结果就是PyCodeObject对象。

  1. typedef struct {
  2. PyObject_HEAD
  3. int co_argcount;        /* 位置参数个数 */
  4. int co_nlocals;         /* 局部变量个数 */
  5. int co_stacksize;       /* 栈大小 */
  6. int co_flags;
  7. PyObject *co_code;      /* 字节码指令序列 */
  8. PyObject *co_consts;    /* 所有常量集合 */
  9. PyObject *co_names;     /* 所有符号名称集合 */
  10. PyObject *co_varnames;  /* 局部变量名称集合 */
  11. PyObject *co_freevars;  /* 闭包用的的变量名集合 */
  12. PyObject *co_cellvars;  /* 内部嵌套函数引用的变量名集合 */
  13. /* The rest doesn’t count for hash/cmp */
  14. PyObject *co_filename;  /* 代码所在文件名 */
  15. PyObject *co_name;      /* 模块名|函数名|类名 */
  16. int co_firstlineno;     /* 代码块在文件中的起始行号 */
  17. PyObject *co_lnotab;    /* 字节码指令和行号的对应关系 */
  18. void *co_zombieframe;   /* for optimization only (see frameobject.c) */
  19. } PyCodeObject;

5. pyc文件格式

加载模块时,模块对应的PyCodeObject对象被写入.pyc文件,格式如下:

Python程序的执行原理(转载)

6. 分析字节码

6.1 解析PyCodeObject

Python提供了内置函数compile可以编译Python代码和查看PyCodeObject对象,如下:

Python代码[test.py]

  1. s = ”hello”
  2. def func():
  3. print s
  4. func()

在Python交互式shell里编译代码得到PyCodeObject对象:

Python程序的执行原理(转载)

dir(co)已经列出co的各个域,想查看某个域直接在终端输出即可:

Python程序的执行原理(转载)

test.py的PyCodeObject

  1. co.co_argcount    0
  2. co.co_nlocals     0
  3. co.co_names       (‘s’, ’func’)
  4. co.co_varnames    (‘s’, ’func’)
  5. co.co_consts      (‘hello’, <code object func at 0x2aaeeec57110, file ”test.py”, line 3>, None)
  6. co.co_code        ’d\x00\x00Z\x00\x00d\x01\x00\x84\x00\x00Z\x01\x00e\x01\x00\x83\x00\x00\x01d\x02\x00S’

Python解释器会为函数也生成的字节码PyCodeObject对象,见上面的co_consts[1]

func的PyCodeObject

  1. func.co_argcount   0
  2. func.co_nlocals    0
  3. func.co_names      (‘s’,)
  4. func.co_varnames   ()
  5. func.co_consts     (None,)
  6. func.co_code       ‘t\x00\x00GHd\x00\x00S’

co_code是指令序列,是一串二进制流,它的格式和解析方法见6.2。

6.2 解析指令序列

指令序列co_code的格式

opcode oparg opcode opcode oparg
1 byte 2 bytes 1 byte 1 byte 2 bytes  

test.py的指令序列

Python程序的执行原理(转载)

func函数的指令序列

Python程序的执行原理(转载)

第一列表示以下几个指令在py文件中的行号;

第二列是该指令在指令序列co_code里的偏移量;

第三列是指令opcode的名称,分为有操作数和无操作数两种,opcode在指令序列中是一个字节的整数;

第四列是操作数oparg,在指令序列中占两个字节,基本都是co_consts或者co_names的下标;

第五列带括号的是操作数说明。

7. 执行字节码

Python虚拟机的原理就是模拟可执行程序再X86机器上的运行,X86的运行时栈帧如下图:

Python程序的执行原理(转载)

假如test.py用C语言来实现,会是下面这个样子:

  1. const char *s = “hello”;
  2. void func() {
  3. printf(“%s\n”, s);
  4. }
  5. int main() {
  6. func();
  7. return 0;
  8. }

Python虚拟机的原理就是模拟上述行为。当发生函数调用时,创建新的栈帧,对应Python的实现就是PyFrameObject对象。

7.1 PyFrameObject

  1. typedef struct _frame {
  2. PyObject_VAR_HEAD
  3. struct _frame *f_back;    /* 调用者的帧 */
  4. PyCodeObject *f_code;     /* 帧对应的字节码对象 */
  5. PyObject *f_builtins;     /* 内置名字空间 */
  6. PyObject *f_globals;      /* 全局名字空间 */
  7. PyObject *f_locals;       /* 本地名字空间 */
  8. PyObject **f_valuestack;  /* 运行时栈底 */
  9. PyObject **f_stacktop;    /* 运行时栈顶 */
  10. …….
  11. }

那么对应Python的运行时栈就是这样子:

Python程序的执行原理(转载)

7.2 执行指令

执行test.py的字节码时,会先创建一个栈帧,以下用f表示当前栈帧,执行过程注释如下:

test.py的符号名集合和常量集合

  1. co.co_names   (‘s’, ’func’)
  2. co.co_consts  (‘hello’, <code object func at 0x2aaeeec57110, file ”test.py”, line 3>, None)

test.py的指令序列

Python程序的执行原理(转载)

上面的CALL_FUNCTION指令执行时,会创建新的栈帧,并执行func的字节码指令,以下用f表示当前栈帧,func的字节码执行过程如下:

func函数的符号名集合和常量集合

  1. func.co_names       (‘s’,)
  2. func.co_consts      (None,)

func函数的指令序列

Python程序的执行原理(转载)

7.3 查看栈帧

如果你想查看当前栈帧,Python提供了sys._getframe()方法可以获取当前栈帧,你只需要在代码里加入代码如下:

  1. def func():
  2. import sys
  3. frame = sys._getframe()
  4. print frame.f_locals
  5. print frame.f_globals
  6. print frame.f_back.f_locals
  7. #你可以打印frame的各个域
  8. print s

原文链接:http://tech.uc.cn/?p=1932

上一篇:IPTables系列:如何配置Ubuntu 14.04中的IPTables防火墙


下一篇:【学习笔记】Struts2之一个Action包含多个控制处理逻辑