kongqigg
級別: 正式會(huì)員
|
DEBCD指令得到的數(shù)值是錯(cuò)的?為什么??請大俠指點(diǎn)。 |
---|---|
|
hsqknx
級別: 工控俠客
|
你想要什么值?你認(rèn)為會(huì)是什么值?? 樓主留言:我以為DEBCD 指令運(yùn)行之后,得出來的結(jié)果是10000,不知道什么原因,變大了 |
---|---|
|
hsqknx
級別: 工控俠客
|
你這樣看的結(jié)果肯定你不認(rèn)識 樓主留言:是啊,我搞不清楚為什么D40里面的值不是100000 |
---|---|
|
kongqigg
級別: 正式會(huì)員
|
我以為DEBCD指令得到結(jié)果是100000,但是不知道為變大了 |
---|---|
|
niningtt
級別: 工控俠客
|
你需要將浮點(diǎn)數(shù)轉(zhuǎn)換成整數(shù)也就是100000.0轉(zhuǎn)成INT100000, 錯(cuò)誤原因,1、BCD碼轉(zhuǎn)化也不是將浮點(diǎn)數(shù)轉(zhuǎn)為整數(shù) 2、直接用浮點(diǎn)數(shù)轉(zhuǎn)BCD也是錯(cuò)誤的做法, |
---|---|
|
hsqknx
級別: 工控俠客
|
結(jié)果不是你這么用的,DEBCD得出的是10進(jìn)制小數(shù),會(huì)有誤差 |
---|---|
|
kongqigg
級別: 正式會(huì)員
|
我后來把debcd改了,改成INT就好了,但是我還是不太清楚,第一次用浮點(diǎn)數(shù),謝謝指點(diǎn)。 |
---|---|
|