2020-12-05

精准计算浮点数

2020-12-05
这是因为python采用IEEE754来存储浮点数的。会产生一定精准度的误差。
2020-12-05
这时我们使用一个名叫decimal的模块。decimal就是十进制的意思。
然后使用decimal.Decimal来实例化一个对象,即0.1和0.2。再将它们分别赋值于a,b。输出a+b,就可以得到结果为0.3了
2020-12-05
为了验证是否正确,我们再引入一个实例化的数c,让c=decimal.Decimal(‘0.3’).则可得到a+b是否等于c是正确的了。

上一篇:python系列教程50


下一篇:decimal类型 MysqlDataTruncation: Data truncation: Out of range value for column ‘unit_price‘ at row 1