znz43
工控職業已成回憶 只因愛好常回家園 樂此不疲
級別: 工控俠客
|
很正常,浮點數的有效位數只有7位。 |
|
---|---|---|
|
lifeison
級別: 探索解密
|
已知A=22400,B=0.005625,求C 你說C=125.99999正常?請用計算器算一下! |
---|---|
|
cvlsam
富士低壓,POD(觸摸屏),PLC專賣
級別: VIP會員
|
您需要去了解一下IEEE754浮點數與我們PC上常說的浮點數的區別。 Good Luck~ |
---|---|
|
sjbandmm
級別: 略有小成
|
浮點數進度問題,可以用雙精度浮點數來解決問題,如果還不能達到精度,只能換成整數計算再轉換為浮點數,只要是帶小數的浮點數都是可能存在誤差的,只有整數乘法沒有誤差。另外說一句,對于人家的回答,不管是對錯,都要注意自己的態度! |
---|---|
|
tkggtdkjpl
工欲善其事,必先利其器!
級別: 網絡英雄
|
把22400改成22400.0試試。 |
|
---|---|---|
|