中秋之缘 发表于 2018-6-27 12:22:02

千分尺示值误差保留小数位数？

测量0-25mm/0.01mm的千分尺，在处理示值误差数据时，考虑量块的修正值后，得出来的数据保留几位小数？是保留1位小数吗？例如：受检点误差值为1μm，量块修正值为+0.14μm，则示值误差为0.9μm？

长度室 发表于 2018-6-27 15:25:17

最终是1μm。直接读得的误差值为1μm，本身就是近似数（估读值），这就是近似数的加减法问题了，近似数的加减法的结果与小数位数最少的那一个看齐。量块的修正值位数再多，跟在估读的一位后面也是没有意义的。

中秋之缘 发表于 2018-6-27 15:38:59

明白了，谢谢
页: [1]
查看完整版本: 千分尺示值误差保留小数位数？