周金香 发表于 2016-9-15 12:07:00

精度计算请教

数字万用表
100欧姆档   校准值99.998      一千欧姆档999.98，精度几级？
100MV档   校准值99.9978       精度几级？

麻烦大师不吝给个计算结果，不是理论解释，看资料有些糊涂了。

lininggray 发表于 2016-9-16 21:58:46

计算每一档的精度，取最低

周金香 发表于 2016-9-17 11:45:51

lininggray 发表于 2016-9-16 21:58
计算每一档的精度，取最低

(100-99.998)/100=0.000020   0.00002级
(1000-999.98)/100=0.00020   0.0002级
(100-99.9978)/100=0.00022   0.000025级

是这样吗?

补充内容 (2016-9-17 18:22):
（100-99.998）/100*100               0.002级
（1000-999.98）/1000*100             0.002级
(100-99.9978)/100*100                  0.002级
不好意思，复制错了，对不起。

lininggray 发表于 2016-9-18 06:31:02

周金香 发表于 2016-9-17 11:45
(100-99.998)/100=0.000020   0.00002级
(1000-999.98)/100=0.00020   0.0002级
(100-99.9978)/100=0 ...

参照JJG124-2005，万用表最高等级0.1


补充内容 (2016-9-18 10:59):
提问之前先看规程，看不懂规程再问

hblgs2004 发表于 2016-9-18 08:18:00

万用表级别只是针对基本量程的，其它扩展量程都不算的，基本量程够几级万用表就是几级。

周金香 发表于 2016-9-18 17:16:37

lininggray 发表于 2016-9-18 06:31
参照JJG124-2005，万用表最高等级0.1



JJG124-2005适用于模拟仪表，且是针对一般的万用表。
我这个是6位半的数字表。

lininggray 发表于 2016-9-18 18:11:58

周金香 发表于 2016-9-18 17:16
JJG124-2005适用于模拟仪表，且是针对一般的万用表。
我这个是6位半的数字表。 ...

数字表的话，没有相应规程，只能做校准，可以参考这个帖子
http://www.gfjl.org/thread-12925-1-1.html
页: [1]
查看完整版本: 精度计算请教