數據處理疑問
在校準扭矩儀時候得到三次數據分別是40.0/39.9/39.9，最後庶算相對誤差，那麼問題來了，1.手動計算修約得到平均值得39.9，最後相對誤差=（39.9-40）/40*100%=0.25%，2.若在EXCEL中直接算相對誤差因為在算平均值時沒有修約所以最後=0.16%，
那麼我想問大家在最後數據處理中到底按哪種方法計算，還有就是在數據處理中第一次修約就要修約到與最後結果一致，還是先多保留一位小數再到最後再修約一次， 平均值计算要修约 无论手工计算还是在EXCEL中计算，中间计算都应该修约至比修约后的结果规定保留位数多保留一位。
你的案例原始数据三位有效数字，最后计算结果要求二位有效数字，中间计算结果可比二位有效数字多保留一位，因此(40.0+39.9+39.9)/3＝39.9；(40.0－39.9)/40.0=0.250%，0.250%修约至两位有效数字为0.25%。EXCEL应设计为中间计算结果可以保留三位有效数字，最终计算结果设计为保留两位有效数字，不能连续计算。连续计算中(40.0+39.9+39.9)/3＝39.9333……，原始数据仅为三位有效数字，多于三位有效数字的数字0.0333……为无效数据，无效数据给最终计算结果带来了过大的修约误差。 规矩湾锦苑 发表于 2014-11-27 15:45
无论手工计算还是在EXCEL中计算，中间计算都应该修约至比修约后的结果规定保留位数多保留一位。
你 ...
謝謝前輩，那這樣看來在數據處理中還是以受動計算為準，不能依賴EXCEL哦 FOXCONN 发表于 2014-12-2 10:20
謝謝前輩，那這樣看來在數據處理中還是以受動計算為準，不能依賴EXCEL哦
不能说不能依賴EXCEL计算，而应该说手动计算和利用EXCEL计算均可。只不过在设计EXCEL时，每个空格中的有效数字个数或小数点后的位数应严格按近似计算的规则设定，而不能使用原始的有效数字个数和小数点后的位数，不管不问，随它的便。
页:
[1]