远离尘埃 发表于 2012-9-10 11:01:56

关于比对结果的问题

量友们，我想问一个问题，在案例详解上有点题p230例2，根据比对公式都是计算出来是Lab1=-0.00000045   Lab2=0.00000089
Lab3=-0.00000095剩下的差不多都基本是10负7次方，或者10负6次方，但是为什么书上算的En值为-0.45   0.89   -0.95.。。。。。。。？？他是怎么得来的，为什么要舍去6个0？？

远离尘埃 发表于 2012-9-10 11:15:47

而且第二版书上408页他算的又是对的，正搞不懂怎么回事，就是那个En值计算公式算的

远离尘埃 发表于 2012-9-10 11:18:12

我晕，不好意思i，我在这里耽误大家时间了，原来参考值的不确定度是1uV，这样计算下来，书上的是对的，哎，太粗心大意了

imwei 发表于 2012-9-12 00:32:37

不过注册计量师书上P408的最后一个En值有笔误，应该是1.12计算出来，没有负号：）
页: [1]
查看完整版本: 关于比对结果的问题