js计算精度不准确的解决方法 javascript避免数字计算精度误差的方法详解？

2021-03-15

1599

javascript避免数字计算精度误差的方法详解？我们需要计算出数字乘以10的n次方，转换成计算机能准确识别的整数，再除以10的n次方。例如，为了使0.1 0.2等于0.3，我们需要编写如下代码：f

javascript避免数字计算精度误差的方法详解？

我们需要计算出数字乘以10的n次方，转换成计算机能准确识别的整数，再除以10的n次方。

例如，为了使0.1 0.2等于0.3，我们需要编写如下代码：

formatnum=function（F，digit）{

var M=数学.pow（10，数字）

return parseInt（f*m，10）/m

}

var num1=0.1

var num2=0.2

警报（formatNum（num1 num2，1）==0.3）