LYunXing 发表于 2008-12-5 12:40:23

关于测量数据的处理

一信号源的频率准确度是5E－5，现用测量接收机测1000MHz的频率，测到数据为999.997563，是否测量结果填999.997即可？

雍容华贵 发表于 2008-12-5 20:19:47

要是修约应该是999.998MHZ，如果是原始数据最好全部保留。

gogo3795 发表于 2008-12-14 14:57:30

需要全部保留，不用修约。准确度使用测量结果计算出来的，是不是合格取决于计算结果是否小于仪器的准确度指标。

huwenjing 发表于 2008-12-14 17:29:47

原始数据可以全部保留，如果要给不确定度就需要修约。

规矩湾锦苑 发表于 2008-12-15 13:26:18

我认为，测量结果的保留位数少了就会损失测量准确度，多了也是“假账真算”毫无价值。要确定测量结果的数据保留位数，一定要搞清楚“准确度是5E－5”的含义，以及近似计算的规则。准确度是5E－5表示测量结果应该由读数值和准确度等级经过乘除计算后得到。近似计算的乘除计算规则规定所有数据保留参与计算的数字中有效数字位数最少的位数加１。“准确度是5E－5”意味着保留有效数字６位半即可。所谓半位就是末尾数以5为单位。因此，测1000MHz的频率，测到数据为999.997563，对其以0.0005为单位进行圆整就是999.9975，测量结果填999.9975即可，如果是最终测量结果而不再继续进行计算，圆整到999.998也就可以了。

皖苏沪 发表于 2009-2-4 14:42:56

即使修约也应该是999.998MHZ，原始数据最好全部保留。
修约的方法要和你给的不确定度评定统一

lee_login 发表于 2009-3-15 15:54:24

四舍六入,奇进偶不进

hupeizhong 发表于 2009-4-16 22:02:02

一信号源的频率准确度是5E－5，现用测量接收机测1000MHz的频率，测到数据为999.997563，是否测量结果填999.997即可？
LYunXing 发表于 2008-12-5 12:40 http://www.gfjl.org/images/common/back.gif

我的理解：
实测值位数的取舍，不取决于被测的准确度，取决于所用测量标准的不确定度。
实测值有效位数的保留，最多只能和测量标准的不确定度保持一致。
但是这实测值的有效位数，可能会超出被测装置的准确度的量级，所以，实测值位数保留多了，也没有什么意义，可能只是跳动的不稳定数字而已。
页: [1]
查看完整版本: 关于测量数据的处理