位数的保留
标准值 示值4.998 5.00 误差是=0.002 还是 0.00？
误差的有效位数末位应该以有效位数最小的对齐还是以精度高的对齐？ 误差是=0.002
回复 2# 的帖子
测量数值的加法和减法运算多个观测值相加或相减时，求得的和或差只能保留一位欠准确数字。因此，最后结果的有效数字位数，应和参与运算各数中小数点后的有效数字位数最少的一个数相同。
在加减运算中，应先运算后修约，不得先修约后运算；即不得在加减运算之前，先把小数点后位数较多的数进行舍入修约，使之比小数点后位数最少的数多一位小数，然后再加减，最后对计算结果进行修约，使其与参与运算的数字中小数点后位数最少者相同。
所以误差应该是0.00 因为误差是用来为测量结果提供准确度信息的，所以测量值的最小位应与保留的误差误差位数相对齐，并截断。在截断时应按修约规则进行修约。例如误差为0.01，测量值应保留到小数点后两位，误差为0.001时，测量值应保留到小数点后三位。
对于一般性测量，有效位数根据计量器具的最小刻度值来确定，即有效数值的最后一位为估读值，其他位都是准确数字。
[摘自]《计量基础知识及管理讲义--北京计量协会》
[ 本帖最后由 z320741 于 2007-9-10 10:06 编辑 ] 误差的表达应该和测量结果一致。所以应该是0.00。
回复 1# 的帖子
4＃的回复是正确的。测量结果有效位数的保留，应视被检表给出的误差而定。 同意6＃楼的说法，“测量结果有效位数的保留，应视被检表给出的误差而定”。被检仪器的示值是“5.00”，只能精确到小数点后两位，因此误差也应该四舍五入保留到小数点后两位，所以应该是0.00，误差为零是不管几个小数点通常都写成0。 意见不太统一啊 能否请位专家给个正确的答案啊 这里是否涉及误差的误差问题。误差的误差是误差的1/3就可以认为很小，是1/5就可以忽略。但是，把误差舍得太厉害，就看不出误差的误差了。0.002 --> 0.00 --> 0.0 --> 0记得以前看精密的计量数据，误差都是保留两位有效数字。
[ 本帖最后由 lymex 于 2007-9-17 15:15 编辑 ]
回复 8# 的帖子
3#的回答就是有专家水平的,就示值"5.00"来说,后一个"0"在计量仪器上就是估读的,是不准确数字,标准的读数"4.998"中的"8"是不准确数字,两者相减后再修约,只能保留最前的一位不准确数字,所以楼主出的题目准确的答案只有一个,就是0.00.前面还有说用四舍五入来修约,可能还不知道数字修约的规则是"四舍六入五留双"的.
页:
[1]