科技改變未來
知識(shí)就是讓你禿頭的力量
級(jí)別: 家園?
精華主題: 0
發(fā)帖數(shù)量: 553 個(gè)
工控威望: 758 點(diǎn)
下載積分: 10387 分
在線時(shí)間: 439(小時(shí))
注冊(cè)時(shí)間: 2011-04-18
最后登錄: 2024-11-06
查看科技改變未來的 主題 / 回貼
樓主  發(fā)表于: 2022-08-24 10:44
圖片:
圖片:
如圖通過模擬發(fā)現(xiàn) 被除數(shù)小于82時(shí)候,算出的結(jié)果是準(zhǔn)的 。被除數(shù)大于83 ,為什么結(jié)果就不準(zhǔn)了呢/有知道原因的小伙伴嗎
gxtmdb82164
級(jí)別: 論壇先鋒
精華主題: 0
發(fā)帖數(shù)量: 747 個(gè)
工控威望: 1125 點(diǎn)
下載積分: 353 分
在線時(shí)間: 587(小時(shí))
注冊(cè)時(shí)間: 2019-09-22
最后登錄: 2024-11-08
查看gxtmdb82164的 主題 / 回貼
1樓  發(fā)表于: 2022-08-24 15:16
你繼續(xù)換其他數(shù)值,你會(huì)發(fā)現(xiàn)還有其他的數(shù)也會(huì)有誤差~

這就是傳說中,二進(jìn)制不能用于表達(dá)任意值,通過浮點(diǎn)數(shù)格式,在有限范圍內(nèi)盡可能精確的逼近目標(biāo)值~