zwz579
這系蝦米社會，七透的比打拼的錢卡多。
級別: 略有小成
精華主題: 0
發(fā)帖數(shù)量: 502 個
工控威望: 408 點
下載積分: 2895 分
在線時間: 226(小時)
注冊時間: 2008-03-18
最后登錄: 2019-07-21
查看zwz579的 主題 / 回貼
樓主  發(fā)表于: 2011-06-22 20:31
圖片：
D205  讀到的數(shù)據(jù)  乘于0.0875  在減去  27.5    
后面一個是  D215 得到的數(shù)據(jù) 乘于0.125    在減去20    ，可是計算結(jié)果跟我們自己計算的結(jié)果為什么不一樣呢？
共同學習，共同進步。 www.xmohm.com
guohaiyu
混沌騎士
級別: 略有小成
精華主題: 0
發(fā)帖數(shù)量: 96 個
工控威望: 246 點
下載積分: 1309 分
在線時間: 43(小時)
注冊時間: 2009-08-24
最后登錄: 2018-06-27
查看guohaiyu的 主題 / 回貼
1樓  發(fā)表于: 2011-06-23 17:15
浮點數(shù)運算上的錯誤，