java陷阱之浮点数运算丢失精度问题

2021-10-16 02:28:08

先看以下测试用例

    public static void main(String[] args) throws ScriptException, InterruptedException, ParseException, IOException {
        System.out.println( 10.2 * 100);//期望1020 实际:1019.9999999999999
        System.out.println( 10.2 * 100D);//期望1020 实际:1019.9999999999999
        System.out.println(new BigDecimal(10.2).multiply(new BigDecimal(100)));//期望1020 实际：1019.999999999999928945726423989981412887573242187500
        System.out.println(new BigDecimal(10.2D).multiply(new BigDecimal(100D)));//期望1020 实际：1019.999999999999928945726423989981412887573242187500
        System.out.println(new BigDecimal(Double.toString(10.2)).multiply(new BigDecimal(Double.toString(100))));//期望1020 实际:1020.00
        System.out.println(0.1+0.2);//期望0.3 实际:0.30000000000000004
        System.out.println(new BigDecimal(0.1).add(new BigDecimal(0.2)));//期望0.3 实际:0.3000000000000000166533453693773481063544750213623046875
        System.out.println(new BigDecimal(Double.toString(0.1)).multiply(new BigDecimal(Double.toString(0.3))));//期望1020 实际:0.03
    }

针对小数直接运算原因

float和double进行运算，都是需要将小数转为二进制再进行运算,但是二进制并不能精确表达所有小数,通过转为二进制后运算有可能会丢失精度所以使用BigDecimal 进行数学运算

针对BigDecimal double构造函数运算丢失精度问题原因

java 手册api函数说明

public BigDecimal(double val)

此构造方法的结果有一定的不可预知性。有人可能认为在 Java 中写入 new BigDecimal(0.1) 所创建的 BigDecimal 正好等于 0.1（非标度值 1，其标度为 1），但是它实际上等于 0.1000000000000000055511151231257827021181583404541015625。这是因为 0.1 无法准确地表示为 double （或者说对于该情况，不能表示为任何有限长度的二进制小数）。这样，传入到构造方法的值不会正好等于 0.1（虽然表面上等于该值）。
另一方面， String 构造方法是完全可预知的：写入 new BigDecimal("0.1") 将创建一个 BigDecimal ，它正好等于预期的 0.1。因此，比较而言，通常建议优先使用 String 构造方法。
当 double 必须用作 BigDecimal 的源时，请注意，此构造方法提供了一个准确转换；它不提供与以下操作相同的结果：先使用 Double.toString(double) 方法，然后使用 BigDecimal(String) 构造方法，将 double 转换为 String 。要获取该结果，请使用 static valueOf(double) 方法。

java陷阱之浮点数运算丢失精度问题

码农公寓

相关文章