引用
引用第5樓panguancheng于2019-02-17 09:16發(fā)表的 :
有點懷疑我的老師了
以32位存儲空間為例,二進(jìn)制BIN有效位31位,浮點只有23位。并且二進(jìn)制BIN是整數(shù),沒有誤差的概念,所以就不會有誤差,而浮點數(shù)本身就可能存在誤差。
以上面10/3為例,二進(jìn)制BIN計算的結(jié)果就是3余1,沒有誤差。而浮點數(shù)為3.333.....,由于位數(shù)不可能無限,所以就有誤差。
使用浮點數(shù)時必須考慮誤差,但通常實際工程中由于23位有效位足夠精確了,對工程計算結(jié)果沒多大影響。