java javascript避免数字计算精度误差的方法详解？

javascript避免数字计算精度误差的方法详解？

我们需要计算出数字乘以10的n次方，转换成计算机能准确识别的整数，再除以10的n次方。

例如，为了使0.1 0.2等于0.3，我们需要编写如下代码：

formatnum=function（F，digit）{

var M=数学.pow（10，数字）

return parseInt（f*m，10）/m

}

var num1=0.1

var num2=0.2

警报（formatNum（num1 num2，1）==0.3）

java 整型数据 java整型转字符串

版权声明：本文内容由互联网用户自发贡献，本站不承担相关法律责任.如有侵权/违法内容,本站将立刻删除。