zsfhwt 发表于 2010-4-30 15:09:48

耐电压测试仪数据化整问题

JJG795 《耐电压测试仪》的5.4 检定结果处理中规定：耐电压测试仪数据化整至允许误差的十分之一。判断测试仪是否合格，一律以化整后的数据为准。
问题：此处要求的化整是指取平均值的时候就化整吗。比如对于2级的耐电压测试仪，在示值2.0kV处的两次实测值是2.042、2.043，平均值为2.0425，最大允许误差=2.0kV*2%=0.04kV，是按0.04的十分之一对2.0425进行化整（怎么化整？），还是换算为相对误差=0.125%，再按2%的十分之一对进行0.125%化整？

二月鸟 发表于 2010-5-1 15:17:17

我理解为取平均值的时候就化整，“耐电压测试仪数据化整至允许误差的十分之一”在此（2级）应按0.02修约，最后按最大允许误差判别。是否对，请大家讨论。

E-mail 发表于 2010-5-3 22:12:20

我们去考证时，老师讲是保留位数是按级别的十分之一，也就是如果算得的相对误差=0。125%，修约后是=0。1%。

恺撒游神 发表于 2010-5-18 23:15:28

看结果如何判断的，如果结果是按百分比来的，则化结果也应该是百分比。

西鼠 发表于 2010-5-21 09:18:02

应按照2%的十分之一化整，也就是化整为0.2%，这是对于相对误差来说的。

王大鹏 发表于 2013-6-5 08:05:43

关于数据是实际值还是相对误差还是其他规定，详见规程相关条款的规定。
页: [1]
查看完整版本: 耐电压测试仪数据化整问题