18026919780
級別: 探索解密
精華主題: 0
發(fā)帖數(shù)量: 30 個
工控威望: 140 點(diǎn)
下載積分: 631 分
在線時間: 19(小時)
注冊時間: 2021-06-20
最后登錄: 2024-11-06
查看18026919780的 主題 / 回貼
樓主  發(fā)表于: 2022-11-16 16:45
圖片:
D10=D20,W99.00為什么不輸出
hansir
級別: 探索解密
精華主題: 0
發(fā)帖數(shù)量: 44 個
工控威望: 101 點(diǎn)
下載積分: 2010 分
在線時間: 17(小時)
注冊時間: 2021-09-17
最后登錄: 2024-11-07
查看hansir的 主題 / 回貼
1樓  發(fā)表于: 2022-11-18 12:27
雖然看起來一樣,實(shí)際上內(nèi)部存儲的不一樣,所以浮點(diǎn)數(shù)不能直接比較相等,一般加上范圍進(jìn)行比較更準(zhǔn)確
本帖最近評分記錄:
  • 下載積分:+1(guochunyi) 熱心助人!
    hansir
    級別: 探索解密
    精華主題: 0
    發(fā)帖數(shù)量: 44 個
    工控威望: 101 點(diǎn)
    下載積分: 2010 分
    在線時間: 17(小時)
    注冊時間: 2021-09-17
    最后登錄: 2024-11-07
    查看hansir的 主題 / 回貼
    2樓  發(fā)表于: 2022-11-18 12:30
    圖片:
    圖片:
    如圖,D10和D20中的值并不相同
    本帖最近評分記錄:
  • 下載積分:+3(18026919780)
    hansir
    級別: 探索解密
    精華主題: 0
    發(fā)帖數(shù)量: 44 個
    工控威望: 101 點(diǎn)
    下載積分: 2010 分
    在線時間: 17(小時)
    注冊時間: 2021-09-17
    最后登錄: 2024-11-07
    查看hansir的 主題 / 回貼
    3樓  發(fā)表于: 2022-11-18 12:34
    浮點(diǎn)數(shù)是能比較大小的。只是不太合適比較兩個浮點(diǎn)數(shù)是否“相等”。

    這是由于十進(jìn)制的浮點(diǎn)數(shù)通常不能用有限位數(shù)的二進(jìn)制表示。所以,計(jì)算機(jī)中保存的十進(jìn)制浮點(diǎn)數(shù)都是“近似值”。舉個例子說,10個十進(jìn)制的0.1相加后,就“不等于”浮點(diǎn)數(shù)1.0



    所以,當(dāng)需比較兩個浮點(diǎn)數(shù)是否相等時,一般我們要比較這兩個浮點(diǎn)數(shù)的差的絕對值,是否小于一個我們允許的誤差值,比如1億分之一。當(dāng)小于這個數(shù)時,我們就認(rèn)為這兩個浮點(diǎn)數(shù)是“相等”的。
    本帖最近評分記錄:
  • 下載積分:+3(18026919780)
    18026919780
    級別: 探索解密
    精華主題: 0
    發(fā)帖數(shù)量: 30 個
    工控威望: 140 點(diǎn)
    下載積分: 631 分
    在線時間: 19(小時)
    注冊時間: 2021-06-20
    最后登錄: 2024-11-06
    查看18026919780的 主題 / 回貼
    4樓  發(fā)表于: 2022-11-18 19:49
    感謝
    ldf710613
    級別: 論壇先鋒
    精華主題: 0
    發(fā)帖數(shù)量: 367 個
    工控威望: 1154 點(diǎn)
    下載積分: 1301 分
    在線時間: 31(小時)
    注冊時間: 2022-04-09
    最后登錄: 2023-12-18
    查看ldf710613的 主題 / 回貼
    5樓  發(fā)表于: 2022-11-22 13:52
    學(xué)習(xí)學(xué)習(xí)