tangjj 发表于 2011-5-17 18:47:55

求助：有效数字混合运算

有效数字混合运算，如题：
   （1.2760*4.17）+(1.7*0.0001)-(0.0021764*0.0121)
   问：计算结果应有几位有效数字？
   求高人指教，并请大概讲一下怎么得来的。

xyb88 发表于 2011-5-18 09:51:50

回复 1# tangjj


    （1.2760*4.17）+(1.7*0.0001)-(0.0021764*0.0121)
=（1.276*4.17）+(1.7*0.0001)-(0.002176*0.0121)
=5.32+0.00017-0.000263
=5.32

游山玩水 发表于 2011-5-18 12:58:59

保留和算式中有效数字最少的一样

随风飘扬 发表于 2011-5-21 16:12:50

回复2#，我认为答案如下：
（1.2760*4.17）+(1.7*0.0001)-(0.0021764*0.0121)
=（1.276*4.17）+(1.7*0.0001)-(0.002176*0.0121)
=5.32+0.0002-0.000263
=5.32
解释：乘除运算中按有效数字最少的保留，加减运算中按小数位最少的保留。那么第一个乘法中最少的有效数位是4.17即3位，第二个乘法中最少的有效数字是0.0001即1位，第三个乘法中最少的有效数字是0.0121即3位。相加时则按小数位最小的保留，即按5.32。

tangjj 发表于 2011-5-22 14:49:16

好，谢谢大家，知道了！

guo320925 发表于 2011-7-12 22:53:09

乘除运算中按有效数字最少的保留，加减运算中按小数位最少的保留。

ldzhwu 发表于 2011-7-13 16:17:22

（1.2760*4.17）+(1.7*0.0001)-(0.0021764*0.0121) =（1.276*4.17）+(1.7*0.0001)-(0.002176*0.0121) =5.32+0.0002-0.000263 =5.32    
乘除运算中按有效数字最少的保留，以有效数字最少的数据为基准，其他数据多保留一位有效数字，再进行乘除运算，计算结果仍保留最少的有效数字加减运算中按小数位最少的保留。那么第一个乘法中最少的有效数位是4.17即3位，第二个乘法中最少的有效数字是0.0001即1位，第三个乘法中最少的有效数字是0.0121即3位。相加时则按小数位最小的保留，以小数点后位数最少的数据为基准，其他数据比它多保留一位，再进行加减计算，最终计算结果保留最少的位数。即按5.32。

落雪绽菊 发表于 2011-7-13 19:12:15

中间结果可以多保留1位
页: [1]
查看完整版本: 求助：有效数字混合运算