liuli775 发表于 2019-7-29 13:25:23

砝码的折算质量修正值修约到小数点后几位？

通过ABBA的方法算出了相差质量之后，再加上标准砝码的修正值就得到了被检砝码的修正值，请问这个被检砝码的修正值应该取小数点后几位？是不是可以跟最大允许误差的小数位数对齐？
比如说检定F1等级50g砝码，相差质量计算出来为0.115mg，再加上我的标准砝码E2等级50g的修正值-0.01mg，被检砝码的修正值应该是0.105mg，F1等级砝码50g的最大允许误差是±0.3mg，那么我是给0.105mg还是修约到小数点后一位给0.1mg？

liuli775 发表于 2019-7-31 09:02:16

有没有人知道啊？求解啊！！！

yeoman 发表于 2019-8-17 12:23:39

同问你的是比较仪测量的吗？

sdhsj 发表于 2019-10-14 16:32:24

取到小数点后两位，每个等级不同质量值取得位数不是全部一样，规程上有说明

唐山计量 发表于 2019-12-4 10:31:20

位数要与砝码扩展不确定度极限值的位数保值一致，网上有砝码扩展不确定度极限值

c_s_s 发表于 2019-12-4 11:28:25

修约到与F1等级砝码50g的最大允许误差相同的小数位。

金玉良缘ZF 发表于 2020-3-12 21:34:17

我们现在就是按照你说的这样做的。

唐山计量 发表于 2020-5-10 23:56:56

根据砝码扩展不确定度极限值位数保持一致，姚宏砝码宣贯教材里面有
页: [1]
查看完整版本: 砝码的折算质量修正值修约到小数点后几位？