zwz579
這系蝦米社會(huì)，七透的比打拼的錢(qián)卡多。
級(jí)別: 略有小成
精華主題: 0
發(fā)帖數(shù)量: 502 個(gè)
工控威望: 408 點(diǎn)
下載積分: 2895 分
在線(xiàn)時(shí)間: 226(小時(shí))
注冊(cè)時(shí)間: 2008-03-18
最后登錄: 2019-07-21
查看zwz579的 主題 / 回貼
樓主  發(fā)表于: 2011-06-22 20:31
圖片：
D205  讀到的數(shù)據(jù)  乘于0.0875  在減去  27.5    
后面一個(gè)是  D215 得到的數(shù)據(jù) 乘于0.125    在減去20    ，可是計(jì)算結(jié)果跟我們自己計(jì)算的結(jié)果為什么不一樣呢？
共同學(xué)習(xí)，共同進(jìn)步。 www.xmohm.com
guohaiyu
混沌騎士
級(jí)別: 略有小成
精華主題: 0
發(fā)帖數(shù)量: 96 個(gè)
工控威望: 246 點(diǎn)
下載積分: 1309 分
在線(xiàn)時(shí)間: 43(小時(shí))
注冊(cè)時(shí)間: 2009-08-24
最后登錄: 2018-06-27
查看guohaiyu的 主題 / 回貼
1樓  發(fā)表于: 2011-06-23 17:15
浮點(diǎn)數(shù)運(yùn)算上的錯(cuò)誤，