逆风阿灰灰 发表于 2014-3-12 09:33:26

求教 写检定记录时检定数据要精确到第几位？

请教各位写记录时检定数据要精确到第几位
比如规程要求“叶片宽度”为129﹢0/-0.3 mm 那记录要写到小数点后多少位呢？
再比如规程要求“时间 ”为(180±5)s，那记录要怎么写呢？
类似的事情一直没弄明白
有没有相关的参考资料可以学习下
谢谢大家~~~

mym20 发表于 2014-3-12 10:25:57

一般修约到与允许误差相同的小数位数吧，但是中间计算应该要多一位，以便最后修约用。

刘毅 发表于 2014-3-12 16:32:05

你的仪器设备显示的结果都要写上去，计算结果需要修约。特殊情况还是要比测量值多一位的。

逆风阿灰灰 发表于 2014-3-14 10:12:43

回复 2# mym20


   谢谢，有没有什么参考资料可以学习下的

牛塘山沟 发表于 2014-3-14 15:00:37

回复 1# 逆风阿灰灰


    记录数据精确到被检测仪器要求多一位。

长度室 发表于 2014-3-22 20:30:28

记录要写到小数点后多少位，不是看你使用的规程/规范上的要求“129﹢0/-0.3 mm”、 (180±5)s，而是看你使用的测量设备的分度值、分辨力是多大。比如用卡尺测，分度值0.02mm的，就取两位小数，要使用千分尺测的，就取三位小数。不管小数几位，只要在“129﹢0/-0.3 mm”、范围内，既是符合的。

逆风阿灰灰 发表于 2014-4-22 08:43:20

回复 6# 长度室


    有的规程要求两次测量求平均值，那我需要两次测量值多估读一位吗

zhoujidai 发表于 2014-4-22 09:04:38

记录中数据的保留位数与允差保持一致...

长度室 发表于 2014-4-22 13:31:18

回复 7# 逆风阿灰灰


应该是没有这个必要。测量结果的小数位数看你选用测量设备的分度值或分辨力。有时可按客户要求，比如我用千分尺测量某工件尺寸，客户要求给两位小数，用千分尺的测量结果应该是3位小数，既然客户有要求，修约至2位小数，这是可以的。客户没要求，用千分尺测得，测量结果就取3位小数。

长度室 发表于 2014-4-22 13:42:25

回复 8# zhoujidai


这是哪里的规定呢？？这样说应该是不正确的。现在有的校准规范只给校准项目，不给出计量性能指标要求（如允差等），不给允差，测量结果小数位数怎么和允差保持一致呢。测量结果的小数位数取决于测量设备的分度值或分辨力，比如某工件的尺寸是（10±0.5）mm，用分度值1mm的钢直尺测，那测量结果取1位小数，若用分度值0.02mm的游标卡尺测，那测量结果取2位小数，用千分尺测，测量结果取3位小数。。。。。。不管小数位数是几位，只要测量结果在（10±0.5）mm范围内，即可判断工件合格。

钻石哨兵 发表于 2014-5-8 16:17:49

根据仪器分辨率决定读数精确到哪一位，一般计算过程要多留一位，方便最后结果的修约
页: [1]
查看完整版本: 求教 写检定记录时检定数据要精确到第几位？