科技改變未來
知識就是讓你禿頭的力量
級別: 家園�？�
精華主題: 0
發(fā)帖數(shù)量: 552 個
工控威望: 758 點
下載積分: 10387 分
在線時間: 439(小時)
注冊時間: 2011-04-18
最后登錄: 2024-11-06
查看科技改變未來的 主題 / 回貼
樓主  發(fā)表于: 2022-08-24 10:44
圖片：
圖片：
如圖通過模擬發(fā)現(xiàn) 被除數(shù)小于82時候，算出的結果是準的 。被除數(shù)大于83 ，為什么結果就不準了呢/有知道原因的小伙伴嗎
pretco123
不為失敗找理由，只為成功找方法
級別: 論壇先鋒

精華主題: 0
發(fā)帖數(shù)量: 2483 個
工控威望: 1779 點
下載積分: 83779 分
在線時間: 1529(小時)
注冊時間: 2008-04-15
最后登錄: 2024-12-31
查看pretco123的 主題 / 回貼
1樓  發(fā)表于: 2022-08-24 10:50
第二個圖打不開
科技改變未來
知識就是讓你禿頭的力量
級別: 家園�？�
精華主題: 0
發(fā)帖數(shù)量: 552 個
工控威望: 758 點
下載積分: 10387 分
在線時間: 439(小時)
注冊時間: 2011-04-18
最后登錄: 2024-11-06
查看科技改變未來的 主題 / 回貼
2樓  發(fā)表于: 2022-08-24 10:52
圖片：
圖片：
幫看看分析一下
菜鳥入行
級別: 論壇先鋒

精華主題: 0
發(fā)帖數(shù)量: 1379 個
工控威望: 1557 點
下載積分: 3686 分
在線時間: 177(小時)
注冊時間: 2017-09-01
最后登錄: 2024-06-11
查看菜鳥入行的 主題 / 回貼
3樓  發(fā)表于: 2022-08-24 11:15
有沒可能F83其實是82.99992
打個醬油，懂的不多
水平有限，能幫則幫
互相幫助，共同進步
zlcp123
級別: 工控俠客
精華主題: 0
發(fā)帖數(shù)量: 129 個
工控威望: 4320 點
下載積分: 13670 分
在線時間: 557(小時)
注冊時間: 2018-09-11
最后登錄: 2024-11-26
查看zlcp123的 主題 / 回貼
4樓  發(fā)表于: 2022-08-24 13:31
有什么問題嗎？浮點數(shù)本來就是近似數(shù)
gxtmdb82164
級別: 論壇先鋒
精華主題: 0
發(fā)帖數(shù)量: 771 個
工控威望: 1149 點
下載積分: 401 分
在線時間: 605(小時)
注冊時間: 2019-09-22
最后登錄: 2024-12-28
查看gxtmdb82164的 主題 / 回貼
5樓  發(fā)表于: 2022-08-24 15:16
你繼續(xù)換其他數(shù)值,你會發(fā)現(xiàn)還有其他的數(shù)也會有誤差~

這就是傳說中,二進制不能用于表達任意值,通過浮點數(shù)格式,在有限范圍內盡可能精確的逼近目標值~
libin520
雖然沒什么突破和進步，卻還是每天在堅持著。
級別: 工控俠客
精華主題: 1 篇
發(fā)帖數(shù)量: 2435 個
工控威望: 2867 點
下載積分: 4614 分
在線時間: 1206(小時)
注冊時間: 2008-10-24
最后登錄: 2024-12-31
查看libin520的 主題 / 回貼
6樓  發(fā)表于: 2022-08-25 00:31
中間需要轉化一下。詳見以下視頻。更正K100應為E100。
https://www.bilibili.com/video/BV1vg411r7dj?spm_id_from=333.999.0.0&vd_source=fe01af24b36f4ec9d5907739c0079391
之前也看到過這個問題。網(wǎng)上搜索了一下。里面的內容需要批判繼承
三菱浮點數(shù)轉整數(shù)INT指令運算結果為什么不對.zip (1134 K) 下载次数:30
需要高品質音樂資源+QQ群：723680148，音質好的音樂讓愛車如音樂海洋。享受美妙音樂帶來的超快感。音樂文件資源來聊即送。
明月照我心
干飯了！干飯了！
級別: 略有小成
精華主題: 0
發(fā)帖數(shù)量: 81 個
工控威望: 322 點
下載積分: 171 分
在線時間: 36(小時)
注冊時間: 2022-08-02
最后登錄: 2024-12-06
查看明月照我心的 主題 / 回貼
7樓  發(fā)表于: 2022-08-25 08:09
     學習
哪有什么歲月盡好，只有一堆人在替你遮風擋雨！
rongbing
級別: 論壇先鋒
精華主題: 0
發(fā)帖數(shù)量: 1056 個
工控威望: 1259 點
下載積分: 22389 分
在線時間: 295(小時)
注冊時間: 2015-02-15
最后登錄: 2024-12-31
查看rongbing的 主題 / 回貼
8樓  發(fā)表于: 2022-08-25 08:18
浮點數(shù)近似值
niningtt
級別: 工控俠客
精華主題: 0
發(fā)帖數(shù)量: 1230 個
工控威望: 3550 點
下載積分: 858 分
在線時間: 459(小時)
注冊時間: 2010-08-24
最后登錄: 2024-11-16
查看niningtt的 主題 / 回貼
9樓  發(fā)表于: 2022-08-25 11:54
IEEE 754 浮點數(shù)的尾數(shù)部分是23位，也就是23位的二進制是真正實現(xiàn)數(shù)值的精度的，指數(shù)可以近似理解為確定小數(shù)點位數(shù)(這么說便于理解)。1/128=0.0078125,也就在這附近了，精度不夠了，所以浮點數(shù)不需要糾結最后面的小數(shù)，只要小數(shù)點前位數(shù)多，小數(shù)點后就會出現(xiàn)，甚至太多的話個位、十位、百位都有可能北省去