对标准表的读数,应该读几位?
我想请教一个问题, 采用一个6未半的数字万用表,检定一个0.5级,仪表标度尺为150格,量程为15V的模拟指针式电压表时,我想知道我应该读标准表的多少位数值?该量程最大允许误差绝对值为0.075V,如果我检定1V点,是读标准的1.000002V?
还是读到最大允许误差的1/10,即1.0000V?
根据JJG 124-2005 检定规程的要求,还要换算成格数,最后按 0.1格进行修约,那之前实际值读数的位数多了,感觉也什么意义呀?!
指示值(格) 实际值 平均值(V) 平均值(格) 修约(格) 示值误差(格)
第一次(V) 第二次(V)
30 2.98448 2.97567 2.980075 29.8008 29.8 +0.2
40 3.9935 3.98221 3.987855 39.8786 39.9 +0.1
50 4.99319 4.98979 4.991490 49.9149 49.9 +0.1
60 5.99361 5.98965 5.991630 59.9163 59.9 +0.1
70 6.98766 6.97621 6.981935 69.8194 69.8 +0.2
80 8.00485 7.9879 7.996375 79.9638 80.0 0.0
90 9.00345 8.98695 8.995200 89.9520 90.0 0.0
100 9.99704 9.98014 9.988590 99.8859 99.9 +0.1
110 10.9964 10.9831 10.989750 109.8975 109.9 +0.1
120 12.0073 11.9991 12.003200 120.0320 120.0 0.0
130 13.0089 12.9915 13.000200 130.0020 130.0 0.0
140 14.0145 14.005 14.009750 140.0975 140.1 -0.1
150 15.0203 15.0142 15.017250 150.1725 150.2 -0.2
顶!顶!顶! 个人认为修约只用于最终数据就可以了,在修约规程中明确指出,如果使用计算器等工具,中间值是不需要修约的。对中间值进行修约个人感觉纯粹是为了简化计算。
做为一个6位半的表,如果其显示的那位数据是可靠的,为什么要舍去么? 吴下阿蒙 发表于 2016-8-15 17:23
个人认为修约只用于最终数据就可以了,在修约规程中明确指出,如果使用计算器等工具,中间值是不需要修约的 ...
我疑惑的就是修约规则说的这个“中间值”,我从标准器读取的标准值算不算中间值?
如果算,那就是不能对这个数值进行修约;
如果不算,那么只要我给出的标准值位数满足检定被检器具的要求就行了吧!然后再对这个值到最后的修约结果之间的中间值进行数据处理。
其实,抛出这个问题,确实是有点为了简化计算的考虑,但是主要也是想提高工作效率;因为在正常的检定工作中,位数取得过多,也相应的增加了数据处理的计算量。
望老师赐教!
页:
[1]