np.float32()和np.float64

数位的区别,一个在内存中占分别32和64个bits,也就是4bytes或8bytes。数位越高浮点数的精度越高。

 

float16 半精度浮点数,包括:1 个符号位,5 个指数位,10 个尾数位
float32 单精度浮点数,包括:1 个符号位,8 个指数位,23 个尾数位
float64 双精度浮点数,包括:1 个符号位,11 个指数位,52 个尾数位
上一篇:nn.Dropout


下一篇:pandas 补充笔记:转换&提取类型