科技改變未來(lái)
知識(shí)就是讓你禿頭的力量
級(jí)別: 家園常客
![]() |
圖片:
![]()
圖片:
![]() 如圖通過(guò)模擬發(fā)現(xiàn) 被除數(shù)小于82時(shí)候,算出的結(jié)果是準(zhǔn)的 。被除數(shù)大于83 ,為什么結(jié)果就不準(zhǔn)了呢/有知道原因的小伙伴嗎 |
---|---|
|
niningtt
級(jí)別: 工控俠客
![]() |
IEEE 754 浮點(diǎn)數(shù)的尾數(shù)部分是23位,也就是23位的二進(jìn)制是真正實(shí)現(xiàn)數(shù)值的精度的,指數(shù)可以近似理解為確定小數(shù)點(diǎn)位數(shù)(這么說(shuō)便于理解)。1/128=0.0078125,也就在這附近了,精度不夠了,所以浮點(diǎn)數(shù)不需要糾結(jié)最后面的小數(shù),只要小數(shù)點(diǎn)前位數(shù)多,小數(shù)點(diǎn)后就會(huì)出現(xiàn),甚至太多的話(huà)個(gè)位、十位、百位都有可能北省去 |
---|---|
|