yxd192 发表于 2014-2-28 16:01:14

请教一个关于数值修约的问题

如果规程要求±5%的误差,那么计算结果为5.123%要怎么修约???
如果规程要求±5.0%的误差,那么计算结果为5.123%要怎么修约???



如果规程要求重复性不超过1.5%,那计算结果为1.513%要怎么修约???




怎么判定他们的合格性


谢谢

都成 发表于 2014-2-28 20:11:58

回复 1# yxd192

如果规程对修约间隔没有做明确规定,根据误差理论可做如下处理:1、如果规程要求±5%的误差,计算结果为5.123%,可按1%间隔修约,即修约为5%。2、如果规程要求±5.0%的误差,计算结果为5.123%,可按0.1%间隔修约,即修约为5.1%。3、如果规程要求重复性不超过1.5%,计算结果为1.513%,可按0.1%间隔修约,即修约为1.5%。以修约后的数据进行合格判定,如果测量的不确定度不大于允差绝对值的1/3,则修约后的数据小于等于最大允差则为合格,否则不合格。

piaoyaoxia 发表于 2014-3-5 16:02:53

跟2#好好学习一下,说的很有道理。

yushiping 发表于 2014-3-7 19:12:36

回复yxd192

如果规程对修约间隔没有做明确规定,根据误差理论可做如下处理:1、如果规程要求±5%的误差 ...
都成 发表于 2014-2-28 20:11 http://www.gfjl.org/images/common/back.gif
说的很好,如果测量不确定度超过1/3允差的话,还要考虑不确定区。
页: [1]
查看完整版本: 请教一个关于数值修约的问题