錦繡明天
級別: 探索解密
精華主題: 0
發(fā)帖數(shù)量: 59 個
工控威望: 184 點
下載積分: 937 分
在線時間: 264(小時)
注冊時間: 2014-10-04
最后登錄: 2024-12-12
查看錦繡明天的 主題 / 回貼
樓主  發(fā)表于: 2024-05-22 23:05
請教大師三菱，0.087890625×2034這個數(shù)如何寫程式計算。
Lu
雪山飛狐
級別: 網(wǎng)絡(luò)英雄
精華主題: 0
發(fā)帖數(shù)量: 12412 個
工控威望: 15097 點
下載積分: 38895 分
在線時間: 942(小時)
注冊時間: 2019-06-05
最后登錄: 2024-12-22
查看雪山飛狐的 主題 / 回貼
1樓  發(fā)表于: 2024-05-23 08:51
研究學習。
heiheiwodeai
級別: 略有小成
精華主題: 0
發(fā)帖數(shù)量: 253 個
工控威望: 375 點
下載積分: 990 分
在線時間: 336(小時)
注冊時間: 2013-03-26
最后登錄: 2024-12-20
查看heiheiwodeai的 主題 / 回貼
2樓  發(fā)表于: 2024-05-23 09:58
圖片：
FLOAT只能處理到小數(shù)點后6位
雪山飛狐
級別: 網(wǎng)絡(luò)英雄
精華主題: 0
發(fā)帖數(shù)量: 12412 個
工控威望: 15097 點
下載積分: 38895 分
在線時間: 942(小時)
注冊時間: 2019-06-05
最后登錄: 2024-12-22
查看雪山飛狐的 主題 / 回貼
3樓  發(fā)表于: 2024-05-23 11:37
把小數(shù)擴大n倍，結(jié)杲再縮小n倍。
雪山飛狐
級別: 網(wǎng)絡(luò)英雄
精華主題: 0
發(fā)帖數(shù)量: 12412 個
工控威望: 15097 點
下載積分: 38895 分
在線時間: 942(小時)
注冊時間: 2019-06-05
最后登錄: 2024-12-22
查看雪山飛狐的 主題 / 回貼
4樓  發(fā)表于: 2024-05-23 11:37
仿試試看吧。
雪山飛狐
級別: 網(wǎng)絡(luò)英雄
精華主題: 0
發(fā)帖數(shù)量: 12412 個
工控威望: 15097 點
下載積分: 38895 分
在線時間: 942(小時)
注冊時間: 2019-06-05
最后登錄: 2024-12-22
查看雪山飛狐的 主題 / 回貼
5樓  發(fā)表于: 2024-05-24 08:51
試試成功。
雪山飛狐
級別: 網(wǎng)絡(luò)英雄
精華主題: 0
發(fā)帖數(shù)量: 12412 個
工控威望: 15097 點
下載積分: 38895 分
在線時間: 942(小時)
注冊時間: 2019-06-05
最后登錄: 2024-12-22
查看雪山飛狐的 主題 / 回貼
6樓  發(fā)表于: 2024-05-29 13:52
計算快樂。
上海工控人1
級別: 正式會員
精華主題: 0
發(fā)帖數(shù)量: 55 個
工控威望: 87 點
下載積分: 642 分
在線時間: 32(小時)
注冊時間: 2023-08-17
最后登錄: 2024-12-20
查看上海工控人1的 主題 / 回貼
7樓  發(fā)表于: 2024-05-29 14:31
單精度浮點精度不夠，得用double 雙精度浮點運算，看看控制吃支持64位雙精度浮點運算嘛
可以聯(lián)系我qq 1515325122 大家一起學習交流
雪山飛狐
級別: 網(wǎng)絡(luò)英雄
精華主題: 0
發(fā)帖數(shù)量: 12412 個
工控威望: 15097 點
下載積分: 38895 分
在線時間: 942(小時)
注冊時間: 2019-06-05
最后登錄: 2024-12-22
查看雪山飛狐的 主題 / 回貼
8樓  發(fā)表于: 2024-05-30 07:12
計算問題。
雪山飛狐
級別: 網(wǎng)絡(luò)英雄
精華主題: 0
發(fā)帖數(shù)量: 12412 個
工控威望: 15097 點
下載積分: 38895 分
在線時間: 942(小時)
注冊時間: 2019-06-05
最后登錄: 2024-12-22
查看雪山飛狐的 主題 / 回貼
9樓  發(fā)表于: 2024-05-30 08:17
多謝計算。