lifeison
級(jí)別: 探索解密
精華主題: 0
發(fā)帖數(shù)量: 40 個(gè)
工控威望: 138 點(diǎn)
下載積分: 685 分
在線時(shí)間: 25(小時(shí))
注冊(cè)時(shí)間: 2016-07-12
最后登錄: 2024-09-17
查看lifeison的 主題 / 回貼
樓主  發(fā)表于: 2016-12-06 08:20
圖片：
圖片：
如圖的兩種運(yùn)算方法，運(yùn)算結(jié)果都有偏差！
cvlsam
富士低壓，POD（觸摸屏），PLC專賣
級(jí)別: VIP會(huì)員

精華主題: 3 篇
發(fā)帖數(shù)量: 6760 個(gè)
工控威望: 38361 點(diǎn)
下載積分: 973 分
在線時(shí)間: 9473(小時(shí))
注冊(cè)時(shí)間: 2006-09-13
最后登錄: 2024-09-22
查看cvlsam的 主題 / 回貼
1樓  發(fā)表于: 2016-12-08 08:40
引用
引用第3樓lifeison于2016-12-06 13:19發(fā)表的  :


已知A=22400,B=0.005625,求C

你說(shuō)C=125.99999正常？請(qǐng)用計(jì)算器算一下！


您需要去了解一下IEEE754浮點(diǎn)數(shù)與我們PC上常說(shuō)的浮點(diǎn)數(shù)的區(qū)別。

Good Luck~