随风飘扬 发表于 2009-5-25 20:19:37

测量结果的有效位数

一块压力表校准点(单位MPa）是0    1   2    3    4等，各校准点的读数是0    0.995   1.995    2.990   3.985等，请问各位：
记录中0点的结果是写0，还是应写成0.000？为什么？

zhoujidai 发表于 2009-5-26 11:59:27

0点应写成0.000，这样表示精确到小数点后三位，如果0点写成0，而后面各点保留到小数点后三位，不符合记录的格式，也不符合数字修约的规则。

深圳渔民 发表于 2009-5-27 16:32:55

我认为压力表的0点不是校准点，也不是压力表的测量下限值。不知道理解是否正确。

风吹石 发表于 2009-5-31 09:59:55

应该写成0.000，因为有时指针不是绝对就在零位上的，代表着零位偏差，特别是压力表，还有回零差必须记录的。

五七一二 发表于 2009-6-7 03:49:31

数据修约中有规定的。有效位数的确定应该根据最小分辨率确定。应该写成0.000，而且在数据运算过程中也有相关规定。只是你没去看而已。

dbhlong 发表于 2009-7-3 15:12:39

本帖最后由 dbhlong 于 2009-7-3 15:16 编辑

应结合分度值读数要求1/5法来选取位数，如分度值是1MPa的应读0.0；0.1MPa的应读0.00；0.01MPa的应读0.000；等，后面各点也应保留相同位数。
页: [1]
查看完整版本: 测量结果的有效位数