js运算精度丢失问题

2022-09-17 08:00:49

0.0023 * 100 = 0.23，但js运算会出现下面这种精度丢失问题：

直接参考别人写的方法：【中间处理了一些问题，最后有优化后的运算方法】

// 加
function floatAdd(arg1, arg2) {
    var r1, r2, m;
    try {
        r1 = arg1.toString().split(".")[1].length;
    } catch (e) {
        r1 = 0;
    }
    try {
        r2 = arg2.toString().split(".")[1].length;
    } catch (e) {
        r2 = 0;
    }
    m = Math.pow(10, Math.max(r1, r2));
    return (floatMultiply(arg1 , m) + floatMultiply(arg2 , m)) / m;
}
 
// 减
function floatSub(arg1, arg2) {
    var r1, r2, m, n;
    try {
        r1 = arg1.toString().split(".")[1].length;
    } catch (e) {
        r1 = 0;
    }
    try {
        r2 = arg2.toString().split(".")[1].length;
    } catch (e) {
        r2 = 0;
    }
    m = Math.pow(10, Math.max(r1, r2));
    // 动态控制精度长度
    n = (r1 >= r2) ? r1 : r2;
    return ((floatMultiply(arg1 , m) - floatMultiply(arg2 , m)) / m).toFixed(n);
}
 
// 乘
function floatMultiply(arg1, arg2) {
    if(arg1 == null || arg2 == null){
        return null;
    }
    var n1,n2;
    var r1, r2; // 小数位数
    try {
        r1 = arg1.toString().split(".")[1].length;
    } catch (e) {
        r1 = 0;
    }
    try {
        r2 = arg2.toString().split(".")[1].length;
    } catch (e) {
        r2 = 0;
    }
    n1 = Number(arg1.toString().replace(".", ""));
    n2 = Number(arg2.toString().replace(".", ""));
    return n1 * n2 / Math.pow(10, r1+r2);
}
 
// 除
function floatDivide(arg1, arg2) {
    if(arg1 == null){
        return null;
    }
    if(arg2 == null || arg2 == 0){
        return null;
    }
    var n1,n2;
    var r1, r2; // 小数位数
    try {
        r1 = arg1.toString().split(".")[1].length;
    } catch (e) {
        r1 = 0;
    }
    try {
        r2 = arg2.toString().split(".")[1].length;
    } catch (e) {
        r2 = 0;
    }
    n1 = Number(arg1.toString().replace(".", ""));
    n2 = Number(arg2.toString().replace(".", ""));
    return (n1 / n2) * Math.pow(10, r2 - r1);
}

上面运算方法存在的问题：

1、floatDivide( 0.0033 , 100 ) = 0.000032999999999999996结果出现精度丢失问题：

　　 js运算精度丢失问题

　解决：除法运算的最后，需要使用乘法的方法，而不能直接相乘：

　　 js运算精度丢失问题

2、floatDivide( 170890000 , 380026238.96999997 ) 得到的结果和实际数出入很大，如下图：

　　 js运算精度丢失问题

　测试：

　　 js运算精度丢失问题

由上面两种情况猜测是乘法里面的科学计数法的问题：

　　 js运算精度丢失问题

　解决：添加将科学计数法转为字符串的方法，得到的结果就正常了，看下图：

　　 js运算精度丢失问题

下面是测试的代码：

　　　　　　　　var toNonExponential = (num)=> {
                var m = num.toExponential().match(/\d(?:\.(\d*))?e([+-]\d+)/);
                return num.toFixed(Math.max(0, (m[1] || ‘‘).length - m[2]));
            }
            /**
             * 乘法 - js运算精度丢失问题
             * @param arg1  数1
             * @param arg2  数2
             */
            var floatMultiply = (arg1, arg2) => {
                if (arg1 == null || arg2 == null) {
                    return null;
                }
                arg1 = toNonExponential(arg1);
                arg2 = toNonExponential(arg2);
                var n1, n2;
                var r1, r2; // 小数位数
                try {
                    r1 = arg1.toString().split(".")[1].length;
                } catch (e) {
                    r1 = 0;
                }
                try {
                    r2 = arg2.toString().split(".")[1].length;
                } catch (e) {
                    r2 = 0;
                }
                n1 = Number(arg1.toString().replace(".", ""));
                n2 = Number(arg2.toString().replace(".", ""));
                return n1 * n2 / Math.pow(10, r1 + r2);
            }var floatDivide = (arg1, arg2) => {
                if (arg1 == null) {
                    return null;
                }
                if (arg2 == null || arg2 == 0) {
                    return null;
                }
                var n1, n2;
                var r1, r2; // 小数位数
                try {
                    r1 = arg1.toString().split(".")[1].length;
                } catch (e) {
                    r1 = 0;
                }
                try {
                    r2 = arg2.toString().split(".")[1].length;
                } catch (e) {
                    r2 = 0;
                }
                n1 = Number(arg1.toString().replace(".", ""));
                n2 = Number(arg2.toString().replace(".", ""));
                return floatMultiply((n1 / n2), Math.pow(10, r2 - r1));
                // return (n1 / n2) * Math.pow(10, r2 - r1);   // 直接乘法还是会出现精度问题
            }
            console.log(floatMultiply(4.496794759834739e-9,100000000));
            // console.log( floatDivide(170890000,380026238.9699997) );
            // console.log( floatDivide(170890000,380026238.969999) );
            // console.log( floatDivide(170890000,380026238.96999) );

优化后的运算方法整合：

/**
 * 将科学计数法的数字转为字符串  
 * 4.496794759834739e-9  ==> 0.000000004496794759834739
 * 4.496794759834739e+9  ==> 4496794759.834739
 * @param  num 
 */
var toNonExponential = (num)=> {
    if(num == null) {
        return num;
    }
    if(typeof num == "number") {
        var m = num.toExponential().match(/\d(?:\.(\d*))?e([+-]\d+)/);
        return num.toFixed(Math.max(0, (m[1] || ‘‘).length - m[2]));
    }else {
        return num;
    }
}

/**
 * 乘法 - js运算精度丢失问题
 * @param arg1  数1
 * @param arg2  数2
 */
var floatMultiply = (arg1, arg2) => {
    if (arg1 == null || arg2 == null) {
        return null;
    }
    arg1 = toNonExponential(arg1);
    arg2 = toNonExponential(arg2);
    var n1, n2;
    var r1, r2; // 小数位数
    try {
        r1 = arg1.toString().split(".")[1].length;
    } catch (e) {
        r1 = 0;
    }
    try {
        r2 = arg2.toString().split(".")[1].length;
    } catch (e) {
        r2 = 0;
    }
    n1 = Number(arg1.toString().replace(".", ""));
    n2 = Number(arg2.toString().replace(".", ""));
    return n1 * n2 / Math.pow(10, r1 + r2);
}

/**
 * 除法 - js运算精度丢失问题
 * @param arg1  数1
 * @param arg2  数2
 */
var floatDivide = (arg1, arg2) => {
    if (arg1 == null) {
        return null;
    }
    if (arg2 == null || arg2 == 0) {
        return null;
    }
    arg1 = toNonExponential(arg1);
    arg2 = toNonExponential(arg2);
    var n1, n2;
    var r1, r2; // 小数位数
    try {
        r1 = arg1.toString().split(".")[1].length;
    } catch (e) {
        r1 = 0;
    }
    try {
        r2 = arg2.toString().split(".")[1].length;
    } catch (e) {
        r2 = 0;
    }
    n1 = Number(arg1.toString().replace(".", ""));
    n2 = Number(arg2.toString().replace(".", ""));
    return floatMultiply((n1 / n2), Math.pow(10, r2 - r1));
    // return (n1 / n2) * Math.pow(10, r2 - r1);   // 直接乘法还是会出现精度问题
}

/**
 * 加法 - js运算精度丢失问题
 * @param arg1  数1
 * @param arg2  数2
 */
var floatAdd = (arg1, arg2) => {
    arg1 = toNonExponential(arg1);
    arg2 = toNonExponential(arg2);
    var r1, r2, m;
    try {
        r1 = arg1.toString().split(".")[1].length;
    } catch (e) {
        r1 = 0;
    }
    try {
        r2 = arg2.toString().split(".")[1].length;
    } catch (e) {
        r2 = 0;
    }
    m = Math.pow(10, Math.max(r1, r2));
    return (floatMultiply(arg1, m) + floatMultiply(arg2, m)) / m;
}

/**
 * 减法 - js运算精度丢失问题
 * @param arg1  数1
 * @param arg2  数2
 */
var floatSub = (arg1, arg2) => {
    var r1, r2, m, n;
    try {
        r1 = arg1.toString().split(".")[1].length;
    } catch (e) {
        r1 = 0;
    }
    try {
        r2 = arg2.toString().split(".")[1].length;
    } catch (e) {
        r2 = 0;
    }
    m = Math.pow(10, Math.max(r1, r2));
    // 动态控制精度长度
    n = (r1 >= r2) ? r1 : r2;
    return ((floatMultiply(arg1, m) - floatMultiply(arg2, m)) / m).toFixed(n);
}

js运算精度丢失问题

码农公寓

相关文章