张bzj 发表于 2011-6-1 13:10:48

求教:有谁知道校准值到底是怎么计算得到的呢?

1、校准值的概念?
2、校准值到底是怎么计算得到?
3、教材最后的案例分析2中的在100V的校准值计算:100.008×(1+20×10-6)=100.010V,怎么看不明白啊!


请高手详解,谢谢!

cjy0325 发表于 2011-6-1 17:29:00

被测表的处100v,即被检校表的示值为100V,
用标准表校准则测得的数值显示为 100.008V,
但标准表有修正值20μV/V=20*10-6,则100.008V时的修正值为100.008V*20μV/V=100.008V*(20*10-6)
则应该算出标准表加修正值修正后的结果,即为100.008V+100.008V*(20*10-6)
即书上的100.008×(1+20×10-6)=100.010V

张bzj 发表于 2011-6-1 20:29:44

回复 2# cjy0325

 那么请问为什么不是100.008V+20μV/V而是100.008V*(20*10-6),教材上不是说加修正值吗?如果是修正因子才相乘

吗?

栀子 发表于 2011-6-1 22:38:16

回复 3# 张bzj


    必须计量单位统一,V和μV是不能相加的,100.008V+20μV/V是不行的。μV必须化成V,所以必须是100.008V+100.008*20*10的负6次方V才是测量结果

ivecai 发表于 2011-6-1 22:52:15

20μV/V


我也打个会;
看看单位。是相对数
页: [1]
查看完整版本: 求教:有谁知道校准值到底是怎么计算得到的呢?