aqw911 发表于 2008-3-6 13:18:37

修约间隔

测量结果如何按修约间隔进行修约,如给定的修越间隔是0.02,而测得值为2.387,则修约后是多少,

ZZP 发表于 2008-3-6 20:06:16

可以按照中华人民共和国标准：数值修约规则GB8170-87 进行计算，计算如下：2.387×5=11.935，按四舍五入奇进偶不进舍约为11.90，11.90÷5=2.38

fuffn 发表于 2008-3-8 01:08:00

　　1、四舍五入法则应为：四舍六入五后不为零则进，五后为零则看五前，五前为奇则进为偶则舍。
　　2、数据修约心算法（实际为数学上的半分法）：根据修约间隔找出修约后的上可能值（假设为A1）和下可能值（假设为A2，A2大于A1），确定中间值（假设为A，A＝（A1+A2）/2　），待修约值与A比较，大于A则修约到A2，小于A则修约到A1。
　　例：2.387只能修约至2.38或2.40，中间值为2.39，2.387小于2.39，因此修约至2.38。
　　　如果修约间隔为0.05，则2.387只能修约至2.35或2.40，中间值为2.375，2.387大于2.39，因此修约至2.40。

dynaroo 发表于 2009-1-16 09:53:39

对2楼的补充：
第一步：2.387×5=11.935；
第二步：对11.935按0.1（0.02×5）修约间隔修约为11.9；
第三步：11.9÷5=2.38，结果值为修约间隔0.02的整数倍。

对3楼的补充：
待修约值＝A时，执行偶数规则。

jlsxxp 发表于 2009-1-16 10:08:07

回复 1# aqw911 的帖子

也可以按修约间隔直接运算，2.387÷2=1.1935，对此按1间隔修约值小数点后第二位=1.19，在对此乘以2=2.38

shel 发表于 2009-1-16 10:14:05

2.38
几种修约方法楼上的都解释得很清楚了，我就不重复了。
页: [1]
查看完整版本: 修约间隔