女强穿越玄幻完结小说,盗墓笔记全集,我欲封天耳根小说零

工控人家園 綜合討論 請大俠看看這是怎么回事,fx3u 浮點數運算

kongqigg

級別: 正式會員

精華主題: 0
發帖數量: 6 個
工控威望: 95 點
下載積分: 584 分
在線時間: 10(小時)
注冊時間: 2014-12-30
最后登錄: 2023-04-03
查看kongqigg的主題 / 回貼

樓主發表于: 2015-01-15 17:25

全看 | 小中大

DEBCD指令得到的數值是錯的？為什么？？請大俠指點。

kongqigg

級別: 正式會員

精華主題: 0
發帖數量: 6 個
工控威望: 95 點
下載積分: 584 分
在線時間: 10(小時)
注冊時間: 2014-12-30
最后登錄: 2023-04-03
查看kongqigg的主題 / 回貼

1樓發表于: 2015-01-15 18:51

全看 | 小中大

我以為DEBCD指令得到結果是100000，但是不知道為變大了

kongqigg

級別: 正式會員

精華主題: 0
發帖數量: 6 個
工控威望: 95 點
下載積分: 584 分
在線時間: 10(小時)
注冊時間: 2014-12-30
最后登錄: 2023-04-03
查看kongqigg的主題 / 回貼

2樓發表于: 2015-01-16 11:38

全看 | 小中大

引用
引用第4樓niningtt于2015-01-15 20:45發表的 :
你需要將浮點數轉換成整數也就是100000.0轉成INT100000，
錯誤原因，1、BCD碼轉化也不是將浮點數轉為整數 2、直接用浮點數轉BCD也是錯誤的做法，

我后來把debcd改了，改成INT就好了，但是我還是不太清楚，第一次用浮點數，謝謝指點。

kongqigg

級別: 正式會員

精華主題: 0
發帖數量: 6 個
工控威望: 95 點
下載積分: 584 分
在線時間: 10(小時)
注冊時間: 2014-12-30
最后登錄: 2023-04-03
查看kongqigg的主題 / 回貼

3樓發表于: 2015-01-16 13:31

全看 | 小中大

引用
引用第5樓hsqknx于2015-01-15 21:21發表的 :
結果不是你這么用的，DEBCD得出的是10進制小數，會有誤差

那個程序里面還有一段跟這個差不多的，那里的BCD指令得出來的結果是正確的。
所以我很納悶
求高人指點。

工控人家園 綜合討論 請大俠看看這是怎么回事,fx3u 浮點數運算

http://www.xjkz.com.cn
訪問內容超出本站范圍，不能確定是否安全
繼續訪問	取消訪問

99久久国产综合精品女不卡-99久久好看一级毛片-99久久精品99999久久-99久久精品费精品国产-99久久精品费精品国产一区二