请问近似数运算是先修约再运算还是先运算再修约
请问近似数运算是先修约再运算还是先运算再修约加
减
乘
除
运算中 哪位回答一下呀,再好举实例 个别数先修约,然后计算,最后再修约。加减看小数位数,乘除看有效数字个数。加减法中,其他加数的小数位数若过多,先修约至比小数位数最少的那个数多一位小数,然后计算,最后结果小数位数与小数位数最少的那个数一致。乘除法一样的道理。 我也觉得应该是这样 例如
12.3+2.345+0.1234=12.3+2.34+0.12=14.76=14.8
24000+2.5×10^6=0.24×10^6+2.5×10^6=2.7×10^6
2.8347×0.56=2.83×0.56=1.5848=1.6
2π/0.16=2×3.14/0.16=39.25=39 回复 5# plge 24000+2.5×10^6=0.24×10^6+2.5×10^6=2.7×10^6?感觉不对呢?
24000=0.024×10^6 加减法以参与计算的各数中小数点后位数最少的为标准修约,乘除法以参与计算的各数中有效数字个数最少的为标准修约,在计算过程中可适当多保留一位。
24000+2.5×10^6=0.024×10^6+2.5×10^6=2.52×10^6=2.5×10^6
因为这是加减计算,按小数点后位数最少的圆整,最少的位数是小数点后一位。5楼的示例除了24000笔误为0.24×10^6外,都是正确的。 本帖最后由 都成 于 2014-7-27 20:26 编辑
回复 1# yxd192
1常数运算参加运算的常数如π、e、file:///C:\Users\ADMINI~1\AppData\Local\Temp\msohtml1\04\clip_image002.gif及其它无误差的数值,其有效位数可认为是无限的,在计算中需要几位取几位。常数的取值不影响有效位数。 2加减运算在加减运算中只保留各数共有的小数位数。先找出小数位数最少的值,然后将其它的值按比最少的小数位多一位进行修约,再运算,结果按小数位最少的位修约。例:12.5+3.26+0.165,先将0.165化整为0.16,则 12.5+3.26+0.165=12.5+3.26+0.16=15.92=15.9。在减法运算中,应避免用两个接近的值相减计算结果,因相减后其有效数字将减少。 3乘除运算在乘除运算中,先找出有效位数最少的值,将其它值按多一位有效位数进行修约,然后运算,最后按有效位数最少的值的位数修约。 例:0.12×11.3×15.24,先将15.24修约为15.2,则0.12×11.3×15.24=0.12×11.3×15.2=20.61=21
4乘方与开方运算数据经乘方与开方运算,所得结果的有效数字位数不大于该数据的位数。一般取相同的位数。 5对数运算运算结果应与真数的位数相同。例:lg32.8=1.51587…=1.52 6三角运算三角运算的有效位数按下表:
角度误差10″1″0.1″0.01″
有效位数5678
7计算平均值若数据的个数较多,则平均值的保留位数可增加一位。 8混合运算混合运算时所有中间运算比上面的运算多保留一位。
@都成:有相应的规范或标准没?我需要明确的规定文件。
页:
[1]