labview的深入探索----雙精度數(shù)精度問(wèn)題

日前幫朋友看一個(gè)程序，一個(gè)WHILE循環(huán)，退出條件是等于一個(gè)雙精度數(shù)，結(jié)果程序未按照預(yù)想條件退出，由此想到了雙精度數(shù)的精度問(wèn)題。

計(jì)算機(jī)中的雙精度數(shù)都存在精度損失的問(wèn)題，因此一般不宜用相等進(jìn)行判斷。





可以看出，0.8+（0.42-0.5)!=0而下面（0.08+0.42）-0.5 =0
上面！=0但是+1后卻等于1。

雙精度浮點(diǎn)數(shù)的確不適合用相等來(lái)判斷。