美女视频深夜福利网站|午夜性春猛交|日日射日日干|av免费提供|另类网站

廣州菱控|歐姆龍(OMRON)
當(dāng)前位置:首頁 >> 技術(shù)支持 >> 關(guān)于浮點(diǎn)運(yùn)算出錯(cuò)問題
關(guān)于浮點(diǎn)運(yùn)算出錯(cuò)問題   時(shí)間:2015/4/11 14:03:00
LD P_On
*F(456) D10 +100 D20
FIX(450) D20 D30
BCD(024) D30 D40
要求D10的浮點(diǎn)數(shù)(譬如4.20)轉(zhuǎn)換成420(BCD),但實(shí)際結(jié)果是419.
但D10輸入浮點(diǎn)數(shù)4.19,轉(zhuǎn)換結(jié)果也是419.
同理4.18轉(zhuǎn)換成417,4.17也是轉(zhuǎn)換成417.
不知問題出在哪里?請(qǐng)問高手們遇到此類浮點(diǎn)數(shù)轉(zhuǎn)換時(shí)你們是如何處理的,有什么高招不發(fā)生轉(zhuǎn)換誤差?
本人打電話問4008204535,工作人員說這種誤差是正常的,但我的工程中是不允許的。
其實(shí)也就是帶有兩位小數(shù)的數(shù),擴(kuò)大100倍,轉(zhuǎn)換成BCD數(shù),但居然達(dá)不到想要的結(jié)果。

附件: 無標(biāo)題.cxp
相關(guān)問題
相關(guān)下載