美女视频深夜福利网站|午夜性春猛交|日日射日日干|av免费提供|另类网站

廣州菱控|歐姆龍(OMRON)
當前位置:首頁 >> 技術支持 >> 關于浮點運算出錯問題
關于浮點運算出錯問題   時間:2015/4/11 14:03:00
LD P_On
*F(456) D10 +100 D20
FIX(450) D20 D30
BCD(024) D30 D40
要求D10的浮點數(譬如4.20)轉換成420(BCD),但實際結果是419.
但D10輸入浮點數4.19,轉換結果也是419.
同理4.18轉換成417,4.17也是轉換成417.
不知問題出在哪里?請問高手們遇到此類浮點數轉換時你們是如何處理的,有什么高招不發生轉換誤差?
本人打電話問4008204535,工作人員說這種誤差是正常的,但我的工程中是不允許的。
其實也就是帶有兩位小數的數,擴大100倍,轉換成BCD數,但居然達不到想要的結果。

附件: 無標題.cxp
相關問題
相關下載