数据修约
请问各位老师几个修约问题，请不吝赐教1.在数据处理时如果标准值和示值不同位怎么处理？
例如，测量温湿度表温度时，如果标准值为20.3℃，而温湿度表分度值为2℃，估读1/2到1℃，示值为21℃，那么示值误差是1℃还是0.7℃，应该保留几位？
2.在评定不确定度时，扩展不确定度保留一到两位有效数字，那么如果用相对扩展不确定度表示时，应该怎么修约有没有明确规定？
3.在工作中还没遇到乘除法的修约，保留位数问题，还是想知道两个都不是整数的数字相乘或相除应该怎么修约？
例如，0.5/0.06 0.5*0.06 1、示值误差实际测得多少就是多少，例子中误差是0.7℃，如果标准是20.03℃，那误差就是0.07℃。一般我们都会选择相应的标准器来检仪器，示值误差测出来是多少就多少，不需要修约，除非你用精度远高于规程要求的标准，标准位数比被测高了很多，可以考虑修约到满足标准要求的位数即可。
补充内容 (2018-6-1 08:12):
对不起，我太不严谨出错了，如果标准是20.03℃，指示值是21℃，则误差应该是0.97℃。 2、相对不确定度表示的时候，保留2位有效位数也是一样的，比如1.2%，0.5%这样。在百分比里面算有效位数。
3、两个都不是整数的数字相乘除，你可以计算出乘除结果之后再进行修约啊。
cindycoco 发表于 2018-5-31 17:23
3、两个都不是整数的数字相乘除，你可以计算出乘除结果之后再进行修约啊。
...
老师前两点我理解了 第三个还是没懂，比如R=U/I 如果电压0.56V电流0.22A 那么电阻是2.545454545Ω，那么报告测得的电阻值应该保留几位有效数字？修约规则懂了就是不知道要修约到多少位 R=U/I 如果电压0.56V电流0.22A 那么电阻是2.545454545Ω 计算错了，应该是２．７２７２７２。。。，结果保留２.７Ω就可以了
页:
[1]