dzlun 发表于 2012-3-11 20:44:28

关于电子天平检定过程中，位数的保留问题。

想请教各位老师：
    进行电子天平检定过程中数据的有效数字应该什么规则进行保留呢？例如天平偏载误差：E=I-L，Ec=E-Eo，其中用到的实际载荷L(g)=49.99998，所检测天平示值为I(g)=50.0042，那在计算误差E时，是不是应该按照天平示值的位数来进行修约呢？还有计算修正误差Ec时的有效位数又是保留几位呢？

谢谢各位解答！

dzlun 发表于 2012-3-11 20:45:16

自己顶一下！

dzlun 发表于 2012-3-11 20:45:34

自己顶一下！

lxg_ji 发表于 2012-3-11 21:02:12

我是按照天平示值的位数

aiping2100 发表于 2012-3-11 21:08:35

按照天平示值的位数,也就是d实际分度值，对应砝码级别来检定电子天平可以直接用标称值，

aiping2100 发表于 2012-3-11 21:08:40

按照天平示值的位数,也就是d实际分度值，对应砝码级别来检定电子天平可以直接用标称值，

aiping2100 发表于 2012-3-11 21:08:50

按照天平示值的位数,也就是d实际分度值，对应砝码级别来检定电子天平可以直接用标称值，

aiping2100 发表于 2012-3-11 21:08:51

按照天平示值的位数,也就是d实际分度值，对应砝码级别来检定电子天平可以直接用标称值，

aiping2100 发表于 2012-3-11 21:08:53

按照天平示值的位数,也就是d实际分度值，对应砝码级别来检定电子天平可以直接用标称值，

aiping2100 发表于 2012-3-11 21:08:55

按照天平示值的位数,也就是d实际分度值，对应砝码级别来检定电子天平可以直接用标称值，

liuhuaxing 发表于 2012-3-11 22:36:49

划为mg就保留1位，即50.0042-49.99998=0.00422g*1000
                              =4.22mg保留一位=4.2mg
但是已经超差了。

liuhuaxing 发表于 2012-3-11 22:38:54

最大允许误差应该是0.5e ，也就是0.5mg,但你的值为4.2mg.

飘雪 发表于 2012-3-15 20:27:49

用不用折算质量好像无关紧要啦，用名义值就好。
页: [1]
查看完整版本: 关于电子天平检定过程中，位数的保留问题。