精灵水含笑 发表于 2017-2-13 08:28:17

0.01级电阻箱

请教各位量友，开关器件没有零位档的0.01级电阻箱的0.01盘准确度等级5级，数据修约时要保留几位小数，规程上要求修约到各十进盘最大允许误差的十分之一。又要求残余电阻的数据修约到0.1mΩ。这怎么理解

tinnasy 发表于 2017-2-23 10:43:16

以这个电阻箱的最后一盘0.01Ω盘档的第一点为例，准确度要求是5级，标称值0.01Ω，如果误差刚好是5%，实际值就是0.01050Ω，修约的就是到5 的下一位0.
因为没有零位，残余电阻也是0.01050Ω,但是规程上要求是修约到0.1mΩ，所以残余电阻是10.5mΩ即可。
以上是我的理解。

精灵水含笑 发表于 2017-2-23 11:09:08

tinnasy 发表于 2017-2-23 10:43
以这个电阻箱的最后一盘0.01Ω盘档的第一点为例，准确度要求是5级，标称值0.01Ω，如果误差刚好是5%，实际 ...

谢谢回复 也就是说0.01Ω盘档的实际值修约后应保留到小数点后5位小数 对吗

tinnasy 发表于 2017-2-23 16:36:42

对的。我一直都是这样处理的
页: [1]
查看完整版本: 0.01级电阻箱