日全食 发表于 2012-3-8 21:46:22

砝码检定计算问题

采用ABA循环，计算△I。
读数：A1：10.0
B:10.5
A2:10.1
计算方法一:△I=B—（A1+A2）/2=10.5—（10.0+10.1）/2=10.5—10.05=0.45≈0.4
方法二:先算标准砝码平均平衡位置：（A1+A2）/2=10.05
≈10.0
△I=10.5-10.0=0.5
请问用哪种方法正确呢？

guoyang 发表于 2012-3-8 23:32:36

用两种都可以，但你在运算时，中间运算数据修约要多保留一位。

日全食 发表于 2012-3-9 11:09:11

但这两种方法计算结果不同

疯狂的土豆 发表于 2012-3-14 16:17:57

数据修约中间过程 需要多保留一位小数
保留之后计算就一样了

zhanghengheng 发表于 2012-4-19 13:17:44

第二种简单

anyideyouxiang 发表于 2016-6-27 15:23:43

这个△I应该是误差把，-△I就是修正值，这么理解对吗

anyideyouxiang 发表于 2016-6-27 15:24:24


这个△I应该是被检砝码的误差把，-△I就是被检砝码的修正值，这么理解对吗，急用，请大虾高手们回复

anyideyouxiang 发表于 2016-6-27 15:28:40

亲亲们，都看看看，急用的这个

张杉杉 发表于 2016-6-28 11:33:54

计算的时候应该最后修约就行，10.4

guoshuang 发表于 2016-7-20 17:17:47

看看计量基础中关于数字修约
页: [1]
查看完整版本: 砝码检定计算问题