javascript浮点数计算的问题

  在使用javascript进行浮点数计算的时候经常会出现各种怪异的问题,

比如7*0.4 js计算结果为:2.8000000000000003

  所以在使用js计算的时候就需要一些特殊处理,思路就是先把js中的数

值扩大到相应的倍数,去掉小数部分再进行计算。

var SysRf = SysRf || {};
SysRf.strNum = {};
//浮点数加法运算
SysRf.strNum.add = function(arg1, arg2) {  
   var r1,r2,m;  
   try{r1=arg1.toString().split(‘.‘)[1].length}catch(e){r1=0};  
   try{r2=arg2.toString().split(‘.‘)[1].length}catch(e){r2=0};  
   m=Math.pow(10,Math.max(r1,r2));  
   return (arg1*m+arg2*m)/m;

};
//浮点数乘法运算
SysRf.strNum.mul = function(arg1, arg2) {
    var m = 0, s1 = arg1 + ‘‘, s2 = arg2 + ‘‘;
    try { m += s1.split(‘.‘)[1].length } catch (e) { };
    try { m += s2.split(‘.‘)[1].length } catch (e) { };
    return parseInt(s1.replace(‘.‘, ‘‘)) * parseInt(s2.replace(‘.‘, ‘‘)) / Math.pow(10, m);
};
//浮点数除法运算
SysRf.strNum.div = function(arg1, arg2) {
    var t1 = 0, t2 = 0, r1, r2;
    try { t1 = arg1.toString().split(‘.‘)[1].length } catch (e) { }
    try { t2 = arg2.toString().split(‘.‘)[1].length } catch (e) { }
    with (Math) {
        r1 = Number(arg1.toString().replace(‘.‘, ‘‘))
        r2 = Number(arg2.toString().replace(‘.‘, ‘‘))
        return (r1 / r2) * pow(10, t2 - t1);
    }
}
//浮点数减法运算
SysRf.strNum.sub = function(arg1, arg2) {
    var r1, r2, m, n;
    try { r1 = arg1.toString().split(‘.‘)[1].length } catch (e) { r1 = 0 }
    try { r2 = arg2.toString().split(‘.‘)[1].length } catch (e) { r2 = 0 }
    m = Math.pow(10, Math.max(r1, r2));
    //动态控制精度长度  
    n = (r1 >= r2) ? r1 : r2;
    return ((arg1 * m - arg2 * m) / m).toFixed(n);
};

 

  

javascript浮点数计算的问题,布布扣,bubuko.com

javascript浮点数计算的问题

上一篇:java 获取屏幕大小


下一篇:JavaScript创建Image并实现预加载