星天河 发表于 2010-9-8 13:08:53

有效数字计算题

1）6.321 - 6.321 = ？

规矩湾锦苑 发表于 2010-9-8 18:48:10

呵呵，应该是0.000吧。

zhoujidai 发表于 2010-9-9 09:31:45

同意版主的答案：0.000

许家诚 发表于 2010-9-9 15:04:21

答案是完全正确的

星天河 发表于 2010-9-11 14:08:13

感谢版主及楼上几位的答复，按有效数字加减运算规则，结果应为0.000。表明是经过计算有效到小数点后第三位，但按有效数字的定义，0.000没有效数字，即然没有有效数字，存在矛盾，那么0.000似乎直接写成0也可以了。建议要对这样情况时将有效字定义作出进一步的补充规定就好了。

zhoujidai 发表于 2010-9-11 14:34:22

回复 5# 星天河

单从数学计算中的有效数字来说，小数点后面的0是没有意义的，0.000应该写出0；但在计量检定/校准中的数字修约就不同了，它还有另一层含义，小数点后面的0反映了近似数的误差，是不能随意取舍的。

redleaf 发表于 2010-9-12 12:59:09

数学题就是0,有效数字则是0.000

路云 发表于 2020-7-22 21:26:44

zhoujidai 发表于 2010-9-11 14:34
回复 5# 星天河

单从数学计算中的有效数字来说，小数点后面的0是没有意义的，0.000应该写出0；但在计量检 ...

这个例子不应该是“有效数字”的概念，而应该是“精确到某位”的概念。
页: [1]
查看完整版本: 有效数字计算题