引用
引用第5樓panguancheng于2019-02-17 09:16發(fā)表的 :
有點(diǎn)懷疑我的老師了
以32位存儲(chǔ)空間為例,二進(jìn)制BIN有效位31位,浮點(diǎn)只有23位。并且二進(jìn)制BIN是整數(shù),沒有誤差的概念,所以就不會(huì)有誤差,而浮點(diǎn)數(shù)本身就可能存在誤差。
以上面10/3為例,二進(jìn)制BIN計(jì)算的結(jié)果就是3余1,沒有誤差。而浮點(diǎn)數(shù)為3.333.....,由于位數(shù)不可能無限,所以就有誤差。
使用浮點(diǎn)數(shù)時(shí)必須考慮誤差,但通常實(shí)際工程中由于23位有效位足夠精確了,對工程計(jì)算結(jié)果沒多大影響。