博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
js 乘除算法 浮点 精度解决办法
阅读量:4506 次
发布时间:2019-06-08

本文共 1530 字,大约阅读时间需要 5 分钟。

js中进行浮点数运算时容易出现精度问题

1) 除法函数

//说明:javascript的除法结果会有误差,在两个浮点数相除的时候会比较明显。这个函数返回较为精确的除法结果。 

//调用:accDiv(arg1,arg2) 
//返回值:arg1除以arg2的精确结果 
function accDiv(arg1,arg2){ 
    var t1=0,t2=0,r1,r2; 
    try{t1=arg1.toString().split(".")[1].length}catch(e){}   //--小数点后的长度
    try{t2=arg2.toString().split(".")[1].length}catch(e){}  //--小数点后的长度
    with(Math){ 
      r1=Number(arg1.toString().replace(".",""))  //--去除小数点变整数
      r2=Number(arg2.toString().replace(".",""))  //--去除小数点变整数
      return (r1/r2)*pow(10,t2-t1);   //---整数相除 在乘上10的平方  小数点的长度
    } 

2) 乘法函数

//说明:javascript的乘法结果会有误差,在两个浮点数相乘的时候会比较明显。这个函数返回较为精确的乘法结果。 

//调用:accMul(arg1,arg2) 
//返回值:arg1乘以arg2的精确结果 
function accMul(arg1,arg2){ 
    var m=0,s1=arg1.toString(),s2=arg2.toString(); 
    try{m+=s1.split(".")[1].length}catch(e){} 
    try{m+=s2.split(".")[1].length}catch(e){} 
    return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m) 

3) 加法函数

//说明:javascript的加法结果会有误差,在两个浮点数相加的时候会比较明显。这个函数返回较为精确的加法结果。 

//调用:accAdd(arg1,arg2) 
//返回值:arg1加上arg2的精确结果 
function accAdd(arg1,arg2){ 
    var r1,r2,m; 
    try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0} 
    try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0} 
    m=Math.pow(10,Math.max(r1,r2)) 
    return (arg1*m+arg2*m)/m 

4) 减法函数

function accSub(arg1,arg2){ 

       var r1,r2,m,n; 
       try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0} 
       try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0} 
       m=Math.pow(10,Math.max(r1,r2)); 
       //last modify by deeka 
       //动态控制精度长度 
       n=(r1>=r2)?r1:r2; 
       return ((arg1*m-arg2*m)/m).toFixed(n); 
}

转载于:https://www.cnblogs.com/tongshuangxiong/p/11200899.html

你可能感兴趣的文章
vue项目目录结构
查看>>
程序员自学路上的一些感悟
查看>>
使用x64dbg分析微信聊天函数并实现发信息
查看>>
robotframework-selenium2library各个版本
查看>>
插入排序
查看>>
LeetCode全文解锁 √
查看>>
[BZOJ 1566] 管道取珠
查看>>
[Codeforces 1060F] Shrinking Tree
查看>>
Winfrom 桌面弹窗拦截 关闭进程简易程序 源代码下载
查看>>
NGUI Atlas Panel和Depth的关系
查看>>
推荐一些相见恨晚的 Python 库 「一」
查看>>
POJ 1062 昂贵的聘礼 (带限制的最短路)
查看>>
TCP协议、UDP协议、端口、套接字
查看>>
设计模式之——单例模式
查看>>
Linux下vim上编辑实现进度条
查看>>
ubuntu 设置plank开机自启之后关机键失效变为注销键
查看>>
JS--我发现,原来你是这样的JS(三)(基础概念--灵魂篇)
查看>>
手指滑动切换手机图片
查看>>
解决Oracle EM无法启动
查看>>
java.lang.ClassNotFoundException: org.springframework.web.context.ContextLoaderListener
查看>>