Day3 浮点数拓展

金融面试题:银行业务怎么表示钱?(答案是要用BigDecimal)

如果使用浮点数来进行比较,会有误差。因为浮点数例如float,表现的字长是有限的,而在数据处理的过程中,是会有离散的数值(无限的数值),因此系统会舍入误差,他的结果是接近的,大约的,但并不等于。


举例

Day3 浮点数拓展

 

 

图1.    float和double的输出结果都是0.1,但是在进行比较时,显示false。

 

Day3 浮点数拓展

 

 

 图2.   虽然float d2=d1+1,但在输出的结果上看是true。

 

上一篇:1


下一篇:【Python入门教程】第62篇 函数进阶之类型提示