jingbo007 发表于 2018-6-6 22:44:37

求解释

数字修约不是很明白,近似值修约误差不超过末位单位量值的一半,不是很明白

zys0804 发表于 2018-6-7 14:14:27

我的理解是:比如0.326,修约后保留两位小数为0.33,修约误差为0.004,末位单位量值为0.006,其一半为0.003

刘耀煌 发表于 2018-6-7 14:41:32

zys0804 发表于 2018-6-7 14:14
我的理解是:比如0.326,修约后保留两位小数为0.33,修约误差为0.004,末位单位量值为0.006,其一半为0.003 ...

按你举的例子,修约后末位单位量值是0.01,其一半为0.005,修约误差=0.004<0.005。如果是0.334,保留2两位小数也是0.33,修约误差=0.004<0.005。修约误差最大的情况,出现在修约前末位数字为5的情况,比如0.325、0.335,此时修约误差=0.005。
页: [1]
查看完整版本: 求解释