当前位置:首页 > 测试测量 > 测试测量
[导读]日前帮朋友看一个程序,一个WHILE循环,退出条件是等于一个双精度数,结果程序未按照预想条件退出,由此想到了双精度数的精度问题。 计算机中的双精度数都存在精度损失的问题,因此一般不宜用相等进行判断。

日前帮朋友看一个程序,一个WHILE循环,退出条件是等于一个双精度数,结果程序未按照预想条件退出,由此想到了双精度数的精度问题。

计算机中的双精度数都存在精度损失的问题,因此一般不宜用相等进行判断。





可以看出,0.8+(0.42-0.5)!=0而下面(0.08+0.42)-0.5 =0
上面!=0但是+1后却等于1。

双精度浮点数的确不适合用相等来判断。

本站声明: 本文章由作者或相关机构授权发布,目的在于传递更多信息,并不代表本站赞同其观点,本站亦不保证或承诺内容真实性等。需要转载请联系该专栏作者,如若文章内容侵犯您的权益,请及时联系本站删除( 邮箱:macysun@21ic.com )。
换一批
延伸阅读
关闭