fp16数a,符号位a[15],指数位a[14:10],尾数位a[9:0]
指数位表示的十进制数为e,尾数位表示的十进制数为m
实际的指数为E,实际的尾数为M
对于规格化的fp16,其指数不为0也不为31
E = e - 15, M = 1 + m/1024(1024为2的10次方)
对于非规格化的fp16,其指数为0
E = 1 - 15, M = m/1024
2024-04-08 16:02:10
fp16数a,符号位a[15],指数位a[14:10],尾数位a[9:0]
指数位表示的十进制数为e,尾数位表示的十进制数为m
实际的指数为E,实际的尾数为M
对于规格化的fp16,其指数不为0也不为31
E = e - 15, M = 1 + m/1024(1024为2的10次方)
对于非规格化的fp16,其指数为0
E = 1 - 15, M = m/1024