lifeison
級(jí)別: 探索解密
精華主題: 0
發(fā)帖數(shù)量: 40 個(gè)
工控威望: 138 點(diǎn)
下載積分: 685 分
在線時(shí)間: 25(小時(shí))
注冊(cè)時(shí)間: 2016-07-12
最后登錄: 2024-09-29
查看lifeison的 主題 / 回貼
樓主  發(fā)表于: 2016-12-06 08:20
圖片：
圖片：
如圖的兩種運(yùn)算方法，運(yùn)算結(jié)果都有偏差！
znz43
工控職業(yè)已成回憶 只因愛(ài)好常回家園 樂(lè)此不疲
級(jí)別: 工控俠客

精華主題: 0
發(fā)帖數(shù)量: 1057 個(gè)
工控威望: 4900 點(diǎn)
下載積分: 7351 分
在線時(shí)間: 2560(小時(shí))
注冊(cè)時(shí)間: 2010-06-24
最后登錄: 2024-11-08
查看znz43的 主題 / 回貼
1樓  發(fā)表于: 2016-12-06 10:21
很正常，浮點(diǎn)數(shù)的有效位數(shù)只有7位。
出門(mén)打工難，打工學(xué)藝難，學(xué)藝拜師難，找到好師傅更難。
贈(zèng)人玫瑰，手留余香。舍得舍得，有舍才有得。
lu08171537
級(jí)別: 家園�？�
精華主題: 0
發(fā)帖數(shù)量: 91 個(gè)
工控威望: 593 點(diǎn)
下載積分: 474 分
在線時(shí)間: 115(小時(shí))
注冊(cè)時(shí)間: 2016-08-10
最后登錄: 2016-12-20
查看lu08171537的 主題 / 回貼
2樓  發(fā)表于: 2016-12-06 10:59
精度問(wèn)題,很正常好不
lifeison
級(jí)別: 探索解密
精華主題: 0
發(fā)帖數(shù)量: 40 個(gè)
工控威望: 138 點(diǎn)
下載積分: 685 分
在線時(shí)間: 25(小時(shí))
注冊(cè)時(shí)間: 2016-07-12
最后登錄: 2024-09-29
查看lifeison的 主題 / 回貼
3樓  發(fā)表于: 2016-12-06 13:19
引用
引用第2樓lu08171537于2016-12-06 10:59發(fā)表的  :
精度問(wèn)題,很正常好不


已知A=22400,B=0.005625,求C

你說(shuō)C=125.99999正常？請(qǐng)用計(jì)算器算一下！
lifeison
級(jí)別: 探索解密
精華主題: 0
發(fā)帖數(shù)量: 40 個(gè)
工控威望: 138 點(diǎn)
下載積分: 685 分
在線時(shí)間: 25(小時(shí))
注冊(cè)時(shí)間: 2016-07-12
最后登錄: 2024-09-29
查看lifeison的 主題 / 回貼
4樓  發(fā)表于: 2016-12-08 08:37
      
cvlsam
富士低壓，POD（觸摸屏），PLC專賣(mài)
級(jí)別: VIP會(huì)員

精華主題: 3 篇
發(fā)帖數(shù)量: 6767 個(gè)
工控威望: 38368 點(diǎn)
下載積分: 2731 分
在線時(shí)間: 9500(小時(shí))
注冊(cè)時(shí)間: 2006-09-13
最后登錄: 2024-11-10
查看cvlsam的 主題 / 回貼
5樓  發(fā)表于: 2016-12-08 08:40
引用
引用第3樓lifeison于2016-12-06 13:19發(fā)表的  :


已知A=22400,B=0.005625,求C

你說(shuō)C=125.99999正常？請(qǐng)用計(jì)算器算一下！


您需要去了解一下IEEE754浮點(diǎn)數(shù)與我們PC上常說(shuō)的浮點(diǎn)數(shù)的區(qū)別。

Good Luck~
業(yè)績(jī)電氣
級(jí)別: 略有小成
精華主題: 0
發(fā)帖數(shù)量: 189 個(gè)
工控威望: 377 點(diǎn)
下載積分: 1061 分
在線時(shí)間: 117(小時(shí))
注冊(cè)時(shí)間: 2009-01-02
最后登錄: 2023-11-08
查看業(yè)績(jī)電氣的 主題 / 回貼
6樓  發(fā)表于: 2017-11-19 08:06
跪求松下PLC編程軟件謝謝
sjbandmm
級(jí)別: 略有小成
精華主題: 0
發(fā)帖數(shù)量: 237 個(gè)
工控威望: 407 點(diǎn)
下載積分: 987 分
在線時(shí)間: 167(小時(shí))
注冊(cè)時(shí)間: 2008-08-23
最后登錄: 2024-05-22
查看sjbandmm的 主題 / 回貼
7樓  發(fā)表于: 2017-11-19 12:12
浮點(diǎn)數(shù)進(jìn)度問(wèn)題，可以用雙精度浮點(diǎn)數(shù)來(lái)解決問(wèn)題，如果還不能達(dá)到精度，只能換成整數(shù)計(jì)算再轉(zhuǎn)換為浮點(diǎn)數(shù)，只要是帶小數(shù)的浮點(diǎn)數(shù)都是可能存在誤差的，只有整數(shù)乘法沒(méi)有誤差。另外說(shuō)一句，對(duì)于人家的回答，不管是對(duì)錯(cuò)，都要注意自己的態(tài)度！
tkggtdkjpl
工欲善其事，必先利其器！
級(jí)別: 網(wǎng)絡(luò)英雄

精華主題: 1 篇
發(fā)帖數(shù)量: 3442 個(gè)
工控威望: 20978 點(diǎn)
下載積分: 27187 分
在線時(shí)間: 1757(小時(shí))
注冊(cè)時(shí)間: 2010-01-03
最后登錄: 2024-11-10
查看tkggtdkjpl的 主題 / 回貼
8樓  發(fā)表于: 2017-11-19 20:32
把22400改成22400.0試試。
自動(dòng)化單機(jī)，生產(chǎn)線，項(xiàng)目編程調(diào)試！
工控劍俠666
天道酬勤，認(rèn)真的人做認(rèn)真的事 。
級(jí)別: 工控俠客
精華主題: 0
發(fā)帖數(shù)量: 1002 個(gè)
工控威望: 2680 點(diǎn)
下載積分: 22469 分
在線時(shí)間: 274(小時(shí))
注冊(cè)時(shí)間: 2013-03-30
最后登錄: 2024-11-06
查看工控劍俠666的 主題 / 回貼
9樓  發(fā)表于: 2017-11-21 08:09
哈哈，你們厲害
工控人加油