编写jsp页面计算1到100的和 PLC模拟量的精确度和对应数值有关系吗？

2021-03-13

2074

PLC模拟量的精确度和对应数值有关系吗？javascript避免数字计算精度误差的方法详解？我们需要计算出数字乘以10的n次方，转换成计算机能准确识别的整数，再除以10的n次方。例如，为了使0.1 0

PLC模拟量的精确度和对应数值有关系吗？

我们需要计算出数字乘以10的n次方，转换成计算机能准确识别的整数，再除以10的n次方。

例如，为了使0.1 0.2等于0.3，我们需要编写如下代码：

formatnum=function（F，digit）{

var M=数学.pow（10，数字）

return parseInt（f*m，10）/m

}

var num1=0.1

var num2=0.2

警报（formatNum（num1 num2，1）==0.3）