lhc2007 发表于 2010-10-17 18:43:42

不确定度评定时计算中间过程小数点位数的保留问题

请教：在评定测量不确定度时，为防止计算过程中产生累积误差，我们在多保留了小数位数，到最终结果时再将数据修约为小数点后保留2位。这样做可以吗？

aux8180 发表于 2010-10-17 20:20:00

回复 1# lhc2007


    你的思路是对的，注意到最后给出的不确定度数值最多为2位有效数字。

sfcl上海 发表于 2010-10-18 16:33:41

不明白LZ的意思！我手里的校准证书的扩展不确定度都是0.00X的

张艳 发表于 2010-10-19 15:51:24

回复 1# lhc2007


    在计算过程中，为了避免过大的数据修约误差，中间过程一般要保留多余的位数。但最终结果的数据修约应一步到位，不得连续修约，避免导致修约误差和使不确定度增大。

lhc2007 发表于 2010-10-21 17:27:10

经专家指导，我心底踏实了，谢谢专家!
页: [1]
查看完整版本: 不确定度评定时计算中间过程小数点位数的保留问题