第六下载站6down rounddown(7,0)=6,为啥?
rounddown(7,0)=6,为啥?如图所示,0.65-0.7并不返回-0.05,而是-0.04999999。这是因为计算机在处理十进制计算时产生了不可避免的错误。我们只能加一轮来处理。例如=向下
rounddown(7,0)=6,为啥?
如图所示,0.65-0.7并不返回-0.05,而是-0.04999999。这是因为计算机在处理十进制计算时产生了不可避免的错误。我们只能加一轮来处理。例如=向下取整(取整(0.65-0.7,2)*20,0)