科技改變未來
知識就是讓你禿頭的力量
級別: 家園常客
|
圖片:
圖片:
如圖通過模擬發現 被除數小于82時候,算出的結果是準的 。被除數大于83 ,為什么結果就不準了呢/有知道原因的小伙伴嗎 |
---|---|
|
gxtmdb82164
級別: 論壇先鋒
|
你繼續換其他數值,你會發現還有其他的數也會有誤差~ 這就是傳說中,二進制不能用于表達任意值,通過浮點數格式,在有限范圍內盡可能精確的逼近目標值~ |
---|---|
|
libin520
雖然沒什么突破和進步,卻還是每天在堅持著。
級別: 工控俠客
|
中間需要轉化一下。詳見以下視頻。更正K100應為E100。 https://www.bilibili.com/video/BV1vg411r7dj?spm_id_from=333.999.0.0&vd_source=fe01af24b36f4ec9d5907739c0079391 之前也看到過這個問題。網上搜索了一下。里面的內容需要批判繼承 三菱浮點數轉整數INT指令運算結果為什么不對.zip (1134 K) 下载次数:30 |
|
---|---|---|
|