過往云煙
級別: 探索解密
精華主題: 0
發(fā)帖數(shù)量: 18 個
工控威望: 120 點
下載積分: 730 分
在線時間: 22(小時)
注冊時間: 2017-02-16
最后登錄: 2022-01-27
查看過往云煙的 主題 / 回貼
樓主  發(fā)表于: 2022-01-24 12:11
圖片:
用了3U,浮點運算后得到了D100的數(shù)值,這個數(shù)值是對的,但是我在用D100的數(shù)字在和常數(shù)K600比較時候,D100數(shù)值變的很大,是什么原因

lizhendong
級別: 家園常客
精華主題: 0
發(fā)帖數(shù)量: 607 個
工控威望: 798 點
下載積分: 1988 分
在線時間: 833(小時)
注冊時間: 2016-10-12
最后登錄: 2024-09-07
查看lizhendong的 主題 / 回貼
1樓  發(fā)表于: 2022-01-24 12:16
浮點數(shù)比較指令不對!
樓主留言:
用ECMP嗎
夢雨天涯
微信hui530527   &
級別: 網(wǎng)絡英雄
精華主題: 0
發(fā)帖數(shù)量: 4078 個
工控威望: 7440 點
下載積分: 14123 分
在線時間: 2746(小時)
注冊時間: 2016-10-31
最后登錄: 2024-09-21
查看夢雨天涯的 主題 / 回貼
2樓  發(fā)表于: 2022-01-24 12:48
要么把浮點變32位,要么用decmp浮點比較指令
樓主留言:
浮點變32位怎么變能回答一下嗎
微信hui530527      b站賬號,非標自動化譚工
請不要隨意加我,不會隨便通過。QQ群942493953