loveranddog 发表于 2008-2-21 14:23:33

请教误差计算方法公式

这是GDM-8245的直流电压档的误差计算公式:0.03%+4 说明书上说是:+-(读值的百分比+位数)不知该如何理解.....先谢谢了...!!!

lymex 发表于 2008-2-21 16:02:04

位数 就是显示末尾的字。
比如在5.0000V档，读1.0000V，那么前一部分是0.0003V，后一部分是0.0004V，加起来就是+- 0.0007V。
比如在5.0000V档，读2.0000V，那么前一部分是0.0006V，后一部分是0.0004V，加起来就是+- 0.0010V。
比如在5.0000V档，读3.0000V，那么前一部分是0.0009V，后一部分是0.0004V，加起来就是+- 0.0013V。
比如在5.0000V档，读4.0000V，那么前一部分是0.0012V，后一部分是0.0004V，加起来就是+- 0.0016V。

dqjlk 发表于 2008-2-21 16:37:28

+4位数是指读数的末位加4，也就是在说最大允许误差的基础上末位加4之内都是合格的。

bgqjm 发表于 2008-2-21 17:27:57

实际就是对应量程下，计算误差的时候末位数字要加4。

loveranddog 发表于 2008-2-21 17:59:27

谢谢大家的回复.有你们的帮助问题已经解决了,祝元宵快乐!!

liangyuc 发表于 2009-3-23 22:14:21

这个很容易啊，我刚参加工作时也不太理解，还是老同志给讲的，数字表经常有半位一位的情况，要看他显示是否完整。
页: [1]
查看完整版本: 请教误差计算方法公式