第一章 熟悉工作环境和相关工具
1.1 熟悉OllyDBG 操作技巧
1.2 反汇编静态分析工具 IDA（最专业的逆向工具）
快捷键 功能
Enter 跟进函数实现
Esc 返回跟进处
A 解释光标处的地址为一个字符串的首地址
B 十六进制数与二进制数转换
C 解释光标处的地址为一条指令
D 解释光标处的地址为数据,没按一次将会转换这个地址的数据长度
G 高速查找到相应的地址
H 十六进制数与十进制数转换
K 将数据解释为栈变量
; 加入�凝视
M 解释为枚举成员
N 又一次命名
O 解释地址为数据段偏移量
T 解释数据为一个结构体成员
X 转换视图到交叉參考模式
Shift+F9 加入�结构体
认识各视图功能
IDA View-A:分析视图窗体,用于显示分析结果。
Hex View-A:二进制视图窗体,打开文件的二进制信息。
Exports: 分析文件里的导出函数信息窗体
Imports: 分析文件里的导入函数信息窗体
Names: 名称窗体，分析文档中用到的标题号名称。
Functions: 分析文件里的函数信息窗体
Structures:加入�结构体信息窗体
Enums: 加入�枚举信息窗体
SIG文件的制作步骤 1、从LIB文件里提取出OBJ文件 2、将每一个OBJ文件制作成PAT文件 3、多PAT文件联合编译SIG文件
SIG文件制作批处理文件的过程
md %l_objs
cd %l_objs
for /F %%i in ('link - lib /list %l.lib') do link -lib /extract:%%i %l.lib
for %%i in (*.obj) do pcf %%i
sigmake -n"%l.lib" *.pat %l.sig
if exist %l.exc for %%i in (%l.exc) do find /v ";" %%i >adc.exc
if exist %l.exc for %%i in (%l.exc) do > abc.exc more +2 "%%i"
copy abc.exc %l.exc
del abc.exc
sigmake -n"%l.lib" *.pat %l.sig
copy %l.sig ..\%l.sig
cd ..
del %l_objs /s /q
rd %l_objs
代码说明
通过 md%l_objs 创建文件夹，文件夹名称为參数1
通过 cd %l_objs 进入刚刚创建的文件夹
在当前文件夹下 循环取出 LIB 中的OBJ名称 并逐个生成相应的OBJ
循环将生成的OBJ文件通过PCF转换相应的PAT文件
将文件夹下的全部的PAT文件生成一个SIG文件
将生成的SIG文件复制到上级文件夹中
返回上级文件夹，删除创建的文件夹中的全部数据
将创建文件夹删除
1.3 反汇编引擎的工作原理
Instruction Prefixes: 指令前缀
反复指令：REP、REPE\REPZ
跨段指令：如 MOV DWORD PTR FS:[xxxx],0
32位 16位 互换 如：MOV AX,WORD PTR DS:[EAX] MOV EAX,DWORD PTR DS:[BX+SI]
Opcode: 指令操作码
Mode R/M：操作数类型
SIB:辅助 Mode R/M，计算地址偏移
Displacement:辅助 Mode R/M, 计算地址偏移
Immediate:马上数
第二章 基本数据类型的表现形式
2.1 整数类型
无符号整数 有符号整数 差别就是最大位
2.2 浮点数类型
浮点数的编码方式 在内存中占4字节 最高位符号 剩余的31位中 左取8位指数 其余尾数
浮点寄存器的使用就是压栈/出栈的过程
比如
float fFloat =(float)argc; //argc为命令行參数
fild dword ptr [ebp+8] ;将地址ebp+8处的整形数据转换浮点型，并入st(0)中，相应变量 argc
fst dword ptr [ebp-4] ;从st(0)中取出数据以浮点编码方式放入地址ebp-4中，相应变量fFloat
printf("%f",fFloat);
;这里对esp运行减8操作 是因为浮点数作为变參函数的參数时 须要转换为双精度浮点值
;这步操作时提前准备8字节的栈空间,以便于存放double 数据
sub esp,8
fstp dword ptr [esp] ;将st(0) 中的 数据传入esp中，并弹出st(0)
push offset string "%f"
call printf
add esp,0ch
argc =(int)fFloat;
fld dwrod ptr [ebp-4] ;将地址 ebp-4处的数据以浮点数类型压入st(0)中
call _ftol ;调用函数_ftol 进行浮点类型转换
mov dword ptr [ebp+8],eax ;转换后结果放入eax中，并转递到ebp+8地址处
类型转换函数 _ftol 的实现
push ebp
mov ebp,esp
add esp,0f4h
;浮点异常检查,CPU 与 FPU的同步工作
wait
fnstcw word ptr [ebp-2]
wait
mov ax,word ptr [ebp-2]
or ah,0ch
mov word ptr [ebp-4],ax
fldcw word ptr [ebp-4]
;从st(0)中取出8字节数据转换成整形并传入ebp-0ch中
;将st(0) 从栈中弹出
flstp dword ptr [ebp-och]
fldcw word ptr [ebp-2]
;使用eax 保存长整形的低4位，用于返回
mov eax,dword ptr [ebp-0ch]
;使用edx 保存长整形数据的高4字节，用于返回
mov edx,dword ptr [ebp-8]
;释放栈
leave
ret
2.3 字符和字符串
字符串是由一系列依照一定的编码顺序线性排列的字符组成的
2.4 布尔类型
2.5 地址、指针和引用
地址是一个有32位二进制数字组成的值。指针是用于保存这个编号的一种变量类型。
指针的取内容操作分为两个步骤：先取出指针中保存的地址信息，然后针对这个地址进行去内容。
两指针相加是没有意义的
引用类型就是指针类型
2.6 常量
数据在程序执行前就已经存在，他们被编译到可执行文件里。
#define定义的常量名称,编译器对其进行编译时，会将代码中的宏名称替换成相应的信息。
const 是为了添加�程序的健壮性而存在的
#define 是一个真常量，而const 却是由编译器推断实现的常量，是一个假常量。
第三章 认识启动函数，找到用户入口
mian函数被调用前要先调用的函数 例如以下
GetVersion() 版本
_heap_init() 初始化堆空间
GetCommandLineA() 获得命令行首地址
_crtGetEnviromentStringsA() 环境变量首地址
_setargv() 命令行參数首地址
_setenvp() 把得到的每条环境变量字符串的首地址存放在字符指针数组中
_cinit() 全局数据和浮点寄存器的初始化
第四章 观察各种表达式的求值过程
加法 add 常量传播 和 常量折叠
常量传播--将编译期间可计算出结果的变量转换成常量，这样就降低了变量的使用。
常量折叠--全部的常量计算都将被计算结果取代。
减法 sub
比如：
int nVarOne=argc;
012E13CE mov eax,dword ptr [argc]
012E13D1 mov dword ptr [nVarOne],eax
int nVarTwo=0;
012E13D4 mov dword ptr [nVarTwo],0
scanf("%d",&nVarTwo);
012E13DB mov esi,esp
012E13DD lea eax,[nVarTwo]
012E13E0 push eax
012E13E1 push offset string "%d" (12E5750h)
012E13E6 call dword ptr [__imp__scanf (12E82BCh)]
012E13EC add esp,8
012E13EF cmp esi,esp
012E13F1 call @ILT+325(__RTC_CheckEsp) (12E114Ah)
nVarOne=nVarOne-100;
012E13F6 mov eax,dword ptr [nVarOne]
012E13F9 sub eax,64h
012E13FC mov dword ptr [nVarOne],eax
nVarOne=nVarOne+5-nVarTwo;
012E13FF mov eax,dword ptr [nVarOne]
012E1402 add eax,5
012E1405 sub eax,dword ptr [nVarTwo]
012E1408 mov dword ptr [nVarOne],eax
printf("nVarOne = %d \r\n",nVarOne);
012E140B mov esi,esp
012E140D mov eax,dword ptr [nVarOne]
012E1410 push eax
012E1411 push offset string "nVarOne = %d \r\n" (12E573Ch)
012E1416 call dword ptr [__imp__printf (12E82C4h)]
012E141C add esp,8
乘法 有符号 imul 和 无符号 mul 两种 样例直接编译
除法 有符号 idiv 和 无符号 div 两种 样例直接编译
推断除法 总结 1
mov eax,MagicNumber
imul …
sar edx,…
mov reg,edx
shr reg,1fh
add edx,reg
;此后直接仅仅用edx的值，eax弃而不用
推断除法 总结 2
mov eax,MagicNumber
；这里的reg表示通用寄存器,上例中为ecx，实际分析中还可能是其它寄存器
mul reg
sub reg,edx
shr reg,1
add reg,edx
shr reg,A ；这句也许没有
;此后直接仅仅用edx的值，eax弃而不用
推断除法 总结 3
mov eax,MagicNumber (大于7ffffffffh)
imul reg
add edx,reg
sar edx,…
mov reg,edx
shr reg,1fh
add edx,reg
;此后直接使用edx的值
推断除法 总结 4
mov eax,MagicNumber (大于7ffffffffh)
imul reg
sar edx,…
mov reg,edx
shr reg,1fh
add edx,reg
;此后直接使用edx的值
推断除法 总结 5
mov eax,MagicNumber (大于7ffffffffh)
imul reg
sub edx，reg
sar edx,…
mov reg,edx
shr reg,1fh
add edx,reg
;此后直接使用edx的值
算数结果溢出
溢出是因为数据进位后超出数据的保存范围导致的
进位-- 无符号数超出存储范围叫做进位
自增自减实例
int nVarOne=argc;
0098138E mov eax,dword ptr [argc]
00981391 mov dword ptr [nVarOne],eax
int nVarTwo=0;
00981394 mov dword ptr [nVarTwo],0
nVarTwo=5+(nVarOne++);
0098139B mov eax,dword ptr [nVarOne]
0098139E add eax,5
009813A1 mov dword ptr [nVarTwo],eax
009813A4 mov ecx,dword ptr [nVarOne]
009813A7 add ecx,1
009813AA mov dword ptr [nVarOne],ecx
nVarTwo=5+(++nVarOne);
009813AD mov eax,dword ptr [nVarOne]
009813B0 add eax,1
009813B3 mov dword ptr [nVarOne],eax
009813B6 mov ecx,dword ptr [nVarOne]
009813B9 add ecx,5
009813BC mov dword ptr [nVarTwo],ecx
nVarOne=5+(nVarTwo++);
009813BF mov eax,dword ptr [nVarTwo]
009813C2 add eax,5
009813C5 mov dword ptr [nVarOne],eax
009813C8 mov ecx,dword ptr [nVarTwo]
009813CB add ecx,1
009813CE mov dword ptr [nVarTwo],ecx
nVarOne=5+(++nVarTwo);
009813D1 mov eax,dword ptr [nVarTwo]
009813D4 add eax,1
009813D7 mov dword ptr [nVarTwo],eax
009813DA mov ecx,dword ptr [nVarTwo]
009813DD add ecx,5
009813E0 mov dword ptr [nVarOne],ecx
表达式短路--通过逻辑与运算和逻辑或运算使语句依据条件在运行时发生中断。
位运算
int BitOperation(int argc)
{
00BE1370 push ebp
00BE1371 mov ebp,esp
00BE1373 sub esp,0C0h
00BE1379 push ebx
00BE137A push esi
00BE137B push edi
00BE137C lea edi,[ebp-0C0h]
00BE1382 mov ecx,30h
00BE1387 mov eax,0CCCCCCCCh
00BE138C rep stos dword ptr es:[edi]
argc=argc<<3;
00BE138E mov eax,dword ptr [argc]
00BE1391 shl eax,3
00BE1394 mov dword ptr [argc],eax
argc=argc>>5;
00BE1397 mov eax,dword ptr [argc]
00BE139A sar eax,5
00BE139D mov dword ptr [argc],eax
argc=argc|0xffff0000;
00BE13A0 mov eax,dword ptr [argc]
00BE13A3 or eax,0FFFF0000h
00BE13A8 mov dword ptr [argc],eax
argc=argc&0x0000ffff;
00BE13AB mov eax,dword ptr [argc]
00BE13AE and eax,0FFFFh
00BE13B3 mov dword ptr [argc],eax
argc=argc^0xffff0000;
00BE13B6 mov eax,dword ptr [argc]
00BE13B9 xor eax,0FFFF0000h
00BE13BE mov dword ptr [argc],eax
argc=~argc;
00BE13C1 mov eax,dword ptr [argc]
00BE13C4 not eax
00BE13C6 mov dword ptr [argc],eax
return argc;
00BE13C9 mov eax,dword ptr [argc]
}
00BE13CC pop edi
00BE13CD pop esi
00BE13CE pop ebx
00BE13CF mov esp,ebp
00BE13D1 pop ebp
00BE13D2 ret
reg==A?C:b+c -->等效于以下
;遇到sub/neg/sbb 就表明是等值比較了
sub reg,A
neg reg
sbb reg,reg
and reg,B
add reg,C 若等值条件成立，其结果为C 否则b+c
比如
int BitOperation(int argc)
{
00DC1370 push ebp
00DC1371 mov ebp,esp
00DC1373 sub esp,0C0h
00DC1379 push ebx
00DC137A push esi
00DC137B push edi
00DC137C lea edi,[ebp-0C0h]
00DC1382 mov ecx,30h
00DC1387 mov eax,0CCCCCCCCh
00DC138C rep stos dword ptr es:[edi]
return argc ? 8 : 20;
00DC138E mov eax,dword ptr [argc]
00DC1391 neg eax
00DC1393 sbb eax,eax
00DC1395 and eax,0FFFFFFF4h
00DC1398 add eax,14h
}
00DC139B pop edi
00DC139C pop esi
00DC139D pop ebx
00DC139E mov esp,ebp
00DC13A0 pop ebp
00DC13A1 ret
代码优化一般有四个方向：
1 运行速度优化
2 内存存储空间优化
3 磁盘存储空间优化
4 编译时间优化
第五章 流程控制语句的识别
if语句
总结：
；先运行各类影响标志位的指令
；其后是各种条件跳转指令
jxx xxxxx
if...else...语句
总结：
；先运行影响标志位的相关指令
jxx ELSE_BEGIN
IF_BEGIN:
……
IF_END:
jmp ELSE_END
ELSE_BEGIN:
……
ELSE_END;
用if构成的多分支流程
总结：
；会影响标志位的指令
jxx ELSE_IF_BEGIN
IF_BEGIN:
……
IF_END:
jmp END
ELSE_IF_BEGIN:
；可影响标志位的指令
jxx ELSE_BEGIN
……
ELSE_IF_END:
jmp END
ELSE_BEGIN:
……
END:
……
Switch 的真相
总结 1
mov reg,mem
;影响标志位的指令
jxx xxxx
;影响标志位的指令
jxx xxx
;影响标志位的指令
jxx xxx
jmp END
……
jmp END
……
jmp END
……
END:
……
总结 2
mov reg,mem
; 对变量进行运算，对齐case地址表的0下标，非必要
;上例中的eax 也可用其它寄存器替换，这里也能够是其它类型的运算
lea eax,[reg+xxxx]
;影响标志位的指令，执行范围检查
jxx DEFAULT_ADDR
jmp dword ptr [eax*4+xxxx] ;
总结 3
mov reg,mem
sub reg,1
mov mem,reg
;影响标志位的指令
jxx xxxx
mov reg , [mem]
;eax不是必要用的，可是之后的数组查询用到的寄存器一定是此处使用的寄存器
xor eax,eax
mov al,byte ptr [xxxx] [reg]
jmp dword ptr [eax*4+xxxx]
do/while/for的比較
do 总结
DO_BEGIN:
.....
;影响标志位的指令
jxx DO_BEGIN ;向上转
while 总结
WHILE_BEGIN:
;影响标志位的指令
jxx WHILE_END
.....
jmp WHILE_BEGIN
WHILE_END:
for 总结
mov mem/reg,xxx
jmp FOR_CMP
FOR_STEP:
;改动循环变量step
mov reg,step
add reg,xxxx ; 改动循环变量的计算过程
mov setp,eax
FOR_CMP:
mov ecx,dword ptr step
;推断循环变量和循环终止条件stepend的关系，满足条件则推出 循环
cmp ecx,setpend
jxx FOR_END
……
jmp FOR_STEP
FOR_END:
第六章 函数的工作原理
栈帧的形成和关闭
栈在内存中是一块特殊的存储空间，它的存储原则是“先进后出”.
esp 与 ebp 栈顶 与 栈底
当 esp 小于 ebp时 就形成了栈帧，栈帧中能够寻址的数据有局部 函数返回地址 函数參数等
vc环境下的调用约定有三种
_cdecl: c/c++默认的调用方式，调用方平衡堆栈，不定參数的函数能够使用。
_stdcall:被调用方平衡堆栈，不定參数的函数无法使用
_fastcall:寄存器方式传參,被调用方平衡堆栈，不定參数的函数无法使用。
使用ebp 或 esp 寻址 寄存器相对间接寻址方式
函数的參数 通过栈结构进行传递。
C/C++将不定长參数的函数定义为：
至少要有一个參数，
全部不定长的參数类型传入时都是dword类型
需在某一个參数中描写叙述參数总个数或将最后一个參数赋值为结尾标记
函数调用的一般工作流程
1 參数传递
通过栈或寄存器方式传递參数
2 函数调用，将返回地址压栈
使用 call 指令调用參数，并将返回地址压入栈中
3 保存栈底
使用栈空间保存调用方的栈底寄存器 ebp
4 申请栈空间和保存寄存器环境
依据函数内部局部变量的大小抬高栈顶让出相应的栈空间
而且将要改动的寄存器保存在栈中
5 函数实现代码
6 还原环境
7 平衡栈空间
平衡局部变量使用的栈空间
8 ret 返回，结束函数调用
更新eip
9 调整 esp，平衡栈顶
此处为_cdecl特有的方式，用于 平衡參数占用的栈顶
两种编译选项下的函数识别
debug
push reg/mem/imm
……
call reg/mem/imm
add esp,xxx
jmp FUN_ADDR
FUN_ADDR:
push ebp
……
mov eax,0cccccccch
rep stos dword ptr [edi];
……
pop ebp
ret
Release
push reg/mem/imm
……
call reg/mem/imm
add esp,xxxx
;函数实现内没有将局部变量初始化为0cccccccch
;若在函数体内不存在内联汇编或异常处理等代码 则使用esp 寻址