计量论坛's Archiver
论坛
›
计量考试
› 关于数据保留有效位数
Vic214
发表于 2021-8-24 16:11:18
关于数据保留有效位数
这道题目没说最后结果保留几位有效数字,为什么最后保留了7.8,而不是8呢,还有就是1.56乘以3.2结果为什么第二行就成了5.0不应该是4.992吗,不应该最后再做数据修约吗?
增增增
发表于 2022-8-22 10:02:09
乘法计算时,保留最少的有效数字,加法运算时,保留小数点最少的
1.56*3.2+2.509*1.12
1.6*3.2+2.51*1.12=7.93
页:
[1]
查看完整版本:
关于数据保留有效位数