关于最大允许误差的小数位和修约
本帖最后由 识海无涯 于 2018-10-11 15:43 编辑请教各位老师：
在电磁学校准报告中，给出的最大允许误差的位数，是与被测对象的分辨率对应一致吗？
比如被测1.00kV，技术指标为±（2%+5V)，最大允许误差算出来是0.025kV。
那么报告中，最大允许误差，是用0.025kV呢还是修约成两位？
如果修约，尾数5是直接舍掉还是进位呢？
本帖最后由 吴下阿蒙 于 2018-10-11 15:48 编辑
最大允许误差难道不该是分辨率的整数倍嘛？ 1.00KV是被检的显示位数就是小数点后两位吗？如果要修约，一般最大允许误差的修约是只舍不进，也就是±0.02KV。按道理1KV能显示到1.000KV的，这样的话就不用修约。你是不是搞错了？还有就是你的2%是Rdg还是FS？ springwood 发表于 2018-10-11 16:11
1.00KV是被检的显示位数就是小数点后两位吗？如果要修约，一般最大允许误差的修约是只舍不进，也就是±0.02 ...
谢谢，被检设备的设定输出是1.00kV,只有两位小数，这个是确定的。标准器是有三位小数。 吴下阿蒙 发表于 2018-10-11 15:45
最大允许误差难道不该是分辨率的整数倍嘛？
谢谢，我上面是根据仪器给出的技术指标计算而来。 识海无涯 发表于 2018-10-11 16:37
谢谢，被检设备的设定输出是1.00kV,只有两位小数，这个是确定的。标准器是有三位小数。 ...
这样的话按要求就是±0.02KV了，正好误差三位小数，但是舍掉的0.005占原数据0.025的比例达到20%了，感觉还是有问题。 springwood 发表于 2018-10-11 16:47
这样的话按要求就是±0.02KV了，正好误差三位小数，但是舍掉的0.005占原数据0.025的比例达到20%了，感觉 ...
是啊，就是这一点，让人比较困惑，找不到有力的依据。 识海无涯 发表于 2018-10-11 16:39
谢谢，我上面是根据仪器给出的技术指标计算而来。
我知道是技术指标计算的，我的意思我对这个技术指标比较困惑。一般最大允许误差比分辨力大的多的，这个仪器光分辨力造成的舍入误差就很大了。 我觉得这个不需要修约 我也认为不需要修约 不必修约，直接用就可以了。
基本上是输出电压的仪器，如耐压测试仪之类的，常常给出这种格式的“最大允许误差”。最后的那个“5V”的尾巴，主要是解决输出电压较小的时候不至于超差。比如电压设定成0.00kV的时候，输出电压不能完全回到0V，稍有电压值就会导致超差。
而在校准它的时候，标准器读数总是多出一位，在合格评定时，这个“5V”的尾巴就具有实际意义了，如楼上有的量友所言，MPE大了20%。 mpe是说明书给出的，算出是多少就是多少，没有理由修约，而且也不影响使用，还是用示值误差与mpe比较就是了 chuxp 发表于 2018-10-11 17:49
不必修约，直接用就可以了。
基本上是输出电压的仪器，如耐压测试仪之类的，常常给出这种格式的“ ...
谢谢，我看有些模版也是直接用。 oldfish 发表于 2018-10-12 21:28
mpe是说明书给出的，算出是多少就是多少，没有理由修约，而且也不影响使用，还是用示值误差与mpe比较就是了 ...
示值误差与mpe比较也可以吗？因为之前培训老师说是mpe的小数位与被测分辨力同位，示值误差位数多一位，所以有此困惑。刚入计量没多久，有太多相关知识没有融会贯通。 刘耀煌 发表于 2018-10-11 17:16
我觉得这个不需要修约
嗯，我是想找到这个需要与不需要之间的依据或相关规范。 识海无涯 发表于 2018-10-13 09:19
示值误差与mpe比较也可以吗？因为之前培训老师说是mpe的小数位与被测分辨力同位，示值误差位数多一位，所 ...
示值误差与mpe比较就是来判定合格与否啊。你们培训老师说得不对，或者你没听清楚。
去学学注册计量师的教材吧，系统地学习计量。 识海无涯 发表于 2018-10-13 09:20
嗯，我是想找到这个需要与不需要之间的依据或相关规范。
如果需要修约应该有规范告诉你修约规则，如果不需要修约就不需要有规范规定了吧
页:
[1]