规格化fp16

规格化fp16

 

fp16数a,符号位a[15],指数位a[14:10],尾数位a[9:0]

指数位表示的十进制数为e,尾数位表示的十进制数为m

实际的指数为E,实际的尾数为M

对于规格化的fp16,其指数不为0也不为31

E = e - 15,  M = 1 + m/1024(1024为2的10次方)

对于非规格化的fp16,其指数为0

E = 1 - 15, M = m/1024

 

上一篇:CUDA 8混合精度编程


下一篇:Tensor Core技术解析(下)