qtyve 发表于 2011-4-1 10:53:21

数据修约

请问：(3.2254-3.0154)的计算结果是0.21还是0.2100

zhengwz 发表于 2011-4-2 08:33:05

我想是0。2100

yangfengchao 发表于 2011-4-2 09:28:33

加减运算：
几个数字相加减的结果，经修约后保留的有效数字的位数，取决于绝对误差最大的数值，计算结果应以绝对误差最大（即小数点位数最少）的数据为基准，来决定计算计算结果的位数，在实际的运算过程中，各数值保留的位数比各数值中小数点后位数做多保留一位而计算结果的有效数字的位数应与位数最少的相同。结果应保留5位有效数字0.21000
你可以参阅GB/T8170-2008

路云 发表于 2011-4-3 22:09:17

本帖最后由 路云 于 2011-4-3 22:19 编辑

GB/T8170—2008《数值修约规则与极限数值的表示和判定》只谈到了数值修约规则，它并未谈到测量数值有效数字的运算规则，实际运算规则应该如下：①加减法运算：多个观测值相加或相减时，其最后结果的小数点后的有效数字位数，应和参与运算各数中小数点后的有效数字位数最少的一个数相同。如：1.256-0.5385+0.23≈0.95。②乘除法运算：积或商的有效数字位数一般应与参与运算的有效数字位数最少的那个观测值相同。如：3.256×2.38≈7.75③乘方开方运算：原数值有几位有效数字，计算结果就可保留几位有效数字。如：4.67的平方约等于21.8。④对数运算：对数值的有效数字位数由尾数部分的位数决定；首数部分为10的幂数，与有效数字位数无关。例如：“1234”是四位有效数字，其对数lg1234≈3.0913，尾数部分仍保留四位。以上运算应遵循“先运算后修约”的原则。

qtyve 发表于 2011-4-6 10:46:11

那么入这个结果应该是0.2100了,对吧.

路云 发表于 2011-4-7 06:54:27

回复 5# yzjl3420646

我在4楼的帖子中说了，GB/T8170—2008《数值修约规则与极限数值的表示和判定》中没有谈到测量数值的运算时有效数字的修约规则，只是针对单个数值进行修约。我所说的这些实际运算规则是在《计量基础知识》中查到的。

likaixuanliulei 发表于 2011-4-7 08:38:43

0.2100，看看计量基础手册里面有数据计算及其修约规则。特别明了。

xiphi 发表于 2011-4-7 14:22:14

应该是 0.2100

恺撒游神 发表于 2011-4-7 20:36:15

很明显应该是0.2100

guoyang 发表于 2011-4-8 09:56:05

这个很明显，就是0.2100，用数值修约中的加减法进行，你可以看看GB/T8170—2008《数值修约规则与极限数值的表示和判定》，与有效位数最小的保持一致。

黎明 发表于 2011-4-8 21:35:17

是0.2100，不是0.21

成精 发表于 2011-4-11 08:43:41

数字修约的东西还是挺有讲究的，只不过很多时候习惯了四舍五入。

liyde 发表于 2011-4-11 09:05:03

应该是0.2100。数值运算的规则是中数相对于有效位数最少的数先修约成多一位，然后进行运算，运算结果再修约成与有效位数最少的一致。修约时遵循的规则是“四舍六入，五看奇偶”。对本例而言，由于二个数有效位数相等，则可直接运算，运算结果恰好与有效位数一致，可不需修约。

liyde 发表于 2011-4-11 09:05:49

应该是0.2100。数值运算的规则是各数相对于有效位数最少的数先修约成多一位，然后进行运算，运算结果再修约成与有效位数最少的一致。修约时遵循的规则是“四舍六入，五看奇偶”。对本例而言，由于二个数有效位数相等，则可直接运算，运算结果恰好与有效位数一致，可不需修约。

yangfengchao 发表于 2011-4-11 10:11:50

修正一下，我的那个帖子弄错了，结果应该是0.2100。多点了个小数点
页: [1]
查看完整版本: 数据修约