xielongyao 发表于 2012-12-25 11:03:52

小数点的保留

带表卡尺分度值0.01mm，那根据估读1/2算是不是在刻度中间就是0.005mm。当没有误差在填写原始记录时是0.000mm吗？保留小数点三位还是写0.00mm？

tigerliu 发表于 2012-12-25 16:49:35

应该写0.000mm，到你能够读到的位数上。。

长度室 发表于 2012-12-26 11:50:52

我习惯上还是写全了，与其他结果小数位数一致。

liuyuji 发表于 2012-12-26 12:51:21

写为0.000mm，因为要估读至1/2，如果写为0.00mm，就会被理解成分度值为0.1mm

xielongyao 发表于 2012-12-27 09:52:42

恩，谢了，平时都没怎么注意，一般带表卡尺都是分度0.02mm的，就算估读1/2，也是0.00的

xielongyao 发表于 2012-12-27 15:25:56

今天特地问了省院的老师，他说应该写为0.00mm，就算你读出来在中间的话，针对游标卡尺的话要进位为0.01mm，对代表卡尺分度为0.01mm的如果在中间的话既可以写成0.01mm也可以写0.00mm，说要根据量具的具体情况决定。我现在有点搞晕了，那干脆不要估读了嘛

规矩湾锦苑 发表于 2012-12-27 17:18:46

回复 6# xielongyao

　　省院的老师说应该写为0.00mm是对的。不必“晕”，呵呵，不是不要估读，估读仍然是重要的。
　　估读和计算一样是测量工作一个非常重要的中间过程，中间过程应该比最终结果多保留一位数字，因此估读时应该估读到小数点后第三位0.000。用估读值减去量块实际值（量块实际值也圆整到0.000位），计算出该受检点示值误差必是小数点后第三位0.000位。再按修约规定把计算结果修约到小数点后两位，写为0.00位作为最终检定结果，而不能写为0.000位。因为小数点后第三位是估读的，不可靠，往前修约一位的数据才是准确可靠的测量结果。修约后的结果再与检定规程表6规定的示值允差相比较，从而判定被检卡尺是否合格。

xielongyao 发表于 2012-12-31 09:36:46

谢谢斑竹，你这样解释我可以理解了，呵呵呵

airlm 发表于 2013-3-5 15:44:30

回复 8# xielongyao


    我怎么还没看懂。。。。
分度值为0.02的写成0.00，分度值为0.01的也写成0.00是吧

蓝猪 发表于 2013-3-14 09:24:23

回复 7# 规矩湾锦苑
请教：按您的说法，是不是最终出具报告的数据的小数位数，一定要与被检物分辨力一致呢？比如千分尺是0.01分度值，标准值是5.12mm，测得的结果是5.123mm。我在报告数据上应该怎么给出误差值？是给出0.003mm，还是要处理一下，修约成0.00mm，因为千分尺检定规程上没有规定怎么修约。

规矩湾锦苑 发表于 2013-3-14 13:48:42

　　你的问题问得非常好。检定规程一般都没规定记录和给出示值误差检定时的检定结果小数点后位数的选择问题。实际检定过程中，大家公认对于指针式（模拟式）被检计量器具是一定要估读的，检定记录应该记载估读的数据并依此进行示值误差计算，用计算结果判定被检计量器具的符合性。要说在最终给出检定证书时检定结果怎么修约，现在的检定规程有两种方法：
　　一种是如果示值允差大于等于被检计量器具的分度值，则应该修约到保持与被检计量器具分度值的位数一致，例如卡尺分度值0.02mm，示值允差0.02mm，最终结果修约到0.01mm，又如JJG34-2008的附录C给出的分度值0.001mm指示表的检定记录案例并没有记录估读到0.0001mm的数据；另一种方法是如果被检计量器具示值允差小于分度值，则应修约到分度值的1/10，例如千分尺分度值0.01mm，示值允差0.004mm，应修约到0.001mm，非常明显如果修约到0.01mm则会对千分尺的符合性判定产生大量误判。
　　以上观点仅供参考。

蓝猪 发表于 2013-3-15 14:13:11

回复 11# 规矩湾锦苑

有这个一个测量值，我这么处理对吗？？    被检表为2.5级，10V量程，共50格。被检表为10V时，标准器读数为10.2012V，误差为：-0.2012。对这个误差应该怎么修约。
根据     由于量程为10V，共50格，每格0.2V，所以我按0.2V为修约间隔（这样认为可以吗？？不然的话jjg124表10中没有2.5级的修约间隔）-0.2012除以2=-0.1006   -0.1006按0.1间隔修约，得到-0.1，之后-0.1*2=-0.2所以误差-0.2012 修约后为-0.2V不知道上面这么做对不对，请教前辈了。

wykaixin 发表于 2013-3-15 14:16:06

跟卡尺的读数位数一样。

蓝猪 发表于 2013-3-15 14:47:22

关于指针表的修约，还有一个问题，
例：2.5级指针电压表，量程250V，共50格，每格5V，
被检表数据为200伏，标准器读数为203.46伏，误差为-3.46伏，
根据以5V为修约间隔（这样不知道对不），修约后为-5伏。

但是jjg124还有一条是因为被检表是2.5级的，符合6.4.6这条大于0.5级仪表的说法，按6.4.6条的说法就应该保留小数位数一位。但这个说法与上面说的6.4.5.2是否是有些矛盾呢？还是我哪个地方弄错了。盼前辈指教。

规矩湾锦苑 发表于 2013-3-16 00:31:27

回复 14# 蓝猪

　　JJG124的6.4.5至6.4.7是对指针式电工三表检定结果的修约规定。被检表是2.5级的，当然就符合6.4.6这条大于0.5级仪表的说法，修约结果就应该按6.4.6条的说法保留小数位数一位。你的被检表是2.5级指针电压表，量程250V，共50格，分度值5V，根据6.4.5.2条要求“修约后的小数位数及末位数和被检表的分辨力相一致”，你应该搞清楚“分辨力”的概念，“分辨力”并不是“分度值”。分度值5V的指针式仪表分辨力可达0.5V，因此应修约至小数位数一位。另外，你还应该按6.4.5.5的最后一句话按修约间隔5来处置，即“2.5舍去，7.5进位，介于2.5至7.5之间修约为5。”例如：
　　被检表数据为200伏，标准器读数为203.46伏，误差为-3.46伏。根据6.4.5.2条修约规定-3.46V应修约至-3.5V。根据6.4.6条“应该保留小数位数一位”的修约规定，-3.46V同样应修约至-3.5V。两条规定并不相互矛盾。

蓝猪 发表于 2013-3-17 10:22:16

6.4.5.2条要求“修约后的小数位数及末位数和被检表的分辨力相一致”是 不是说只要位数相同就可以，就像您上面说的，分度值5V的指针式仪表分辨力可达0.5V，因此应修约至小数位数一位，-3.46V应修约至-3.5，这个数是按0.01为修约间隔得到的，还是按0.05修约间隔得到的呢？因为-3.46V这个数按0.01间隔修约和按0.05修约结果都是-3.5，所以还有一点不清楚。

蓝猪 发表于 2013-3-17 10:26:08

“分辨力”并不是“分度值”，这个我理解了。
分度值5V的指针式仪表分辨力可达0.5V，这个是不是说分辨力相当于分度值的十分之一呢？？

规矩湾锦苑 发表于 2013-3-17 16:31:59

回复 17# 蓝猪

　　你说得对。分度值5V的指针式仪表分辨力可达0.5V，这个0.5V就是指分辨力相当于分度值5V的十分之一。6.4.5.2条要求“修约后的小数位数及末位数和被检表的分辨力相一致”就是说只要位数相同就可以，就像我上面说的，分度值5V的指针式仪表分辨力可达0.5V，分辨力为小数点后一位，因此最终结果也应修约至小数位数一位。
　　-3.46V应修约至-3.5，不是按修约间隔1（即0.1）处置，而是按6.4.5.5的最后一句话修约间隔5（即0.5）来处置的，即“2.5舍去，7.5进位，介于2.5至7.5之间修约为5。”得到的。假设被检表数据为200V，标准器读数为203.31V，误差为-3.31V，仍然应该修约到-3.5V，而不应该是-3.3V；被检表数据为200V，标准器读数为203.74V，误差为-3.74V，仍然应该修约到-3.5V，而不应该是-3.7V。

蓝猪 发表于 2013-3-17 20:16:43

回复 18# 规矩湾锦苑
现在明白了，非常感谢。另外我在电磁计量，求教了一个关于“JJG124直流电位差计 中不理解的地方-步进值 基准值”的贴子，没有人回复，您能帮我看一下吗？

yulh 发表于 2013-3-20 22:10:59

回复 11# 规矩湾锦苑


   游标卡尺应该是没有估读的位数，如果精度是0.05毫米（0.02毫米），读数必须保留到0.00mm，最后一位必须是5（2）的倍数。

老潘 发表于 2013-3-29 10:16:33

每次看规矩湾锦苑的专家解答，总能获得收益。

jing_2118 发表于 2013-4-3 14:24:22

感觉是不是应该都 写上去呀

单鲁海 发表于 2013-4-7 14:35:28

其实，不必写第三位的，小数点和标准要求的位数一致就可以了，这样最保险，不容易出错

dyang 发表于 2013-4-7 17:00:23

我认为小数点和标准要求的位数应该一致
页: [1]
查看完整版本: 小数点的保留