0.2单位修约和0.5单位修约的公式怎么做
一支（0～300）℃的玻璃液体温度计，分度值是2℃，按十分之一估读，已知100℃的标准值为100.007℃，被校温度计2次读数分别为100.2℃和100.4℃，平均值为100.3℃，修正值为100.007-100.3=-0.293℃，考虑到最终修正值需要根据0.2修约，请问老师们-0.293修约后是多少？如何修约？ 根据| GB/T 8170-2008 数值修约规则与极限数值的表示和判定， 中3.3.2应该从平均值开始修约，把100.3修约成100.4，再与100.007比较单纯论-0.293如何按修约间隔0.2修约，是将-0.293/0.2=-1.465，然后修约到个位，为-1，再乘0.2，得修约结果0.2。
至于需不需要先修约平均值，我觉得按照GB/T 8170 中4.3.1.2的说法
当标准或有关文件中,若对极限数值(包括带有极限偏差值的数值)无特殊：规定时,均应使用全数值比较法。如规定采用修约值比较法,应在标准中加以说明。
JJG 130的7.3.3.4已经对数据处理做出了要求，仅在修正值后标明了需要修约到1/10位，所以楼主的算法应该是对的。
大部分规程应该都要求是先计算后修约。 弹幕 发表于 2024-12-13 09:51
单纯论-0.293如何按修约间隔0.2修约，是将-0.293/0.2=-1.465，然后修约到个位，为-1，再乘0.2，得修约结果0 ...
是的，我现在就是计算后再修约，仅修约一次。 增增增 发表于 2024-12-12 20:50
根据| GB/T 8170-2008 数值修约规则与极限数值的表示和判定， 中3.3.2应该从平均值开始修约，把100.3修约成 ...
这是依据GB/T 8170-2008 哪一条来的？ 本帖最后由 沧海一粒 于 2024-12-30 09:49 编辑
单纯论-0.293如何按修约间隔0.2修约，是将-0.293/0.2=-1.465，然后修约到个位（题目不是保留十分之一嘛不是小数后1位数嘛） 沧海一粒 发表于 2024-12-30 09:45
单纯论-0.293如何按修约间隔0.2修约，是将-0.293/0.2=-1.465，然后修约到个位（题目不是保留十分之一嘛不是 ...
嗯我已经搞定了 沧海一粒 发表于 2024-12-30 09:45
单纯论-0.293如何按修约间隔0.2修约，是将-0.293/0.2=-1.465，然后修约到个位（题目不是保留十分之一嘛不是 ...
你可以这么想，按0.2修约，修约后一定是0.2的倍数，我们先除以0.2，在修约到各位，本质是是求得这个倍数。至于修约到0.2，数据得到小数点后一位，这个问题在最后乘以0.2的时候就解决了 买本书吧 书上有讲解
先给0.293 乘以5=1.465 然后进行修约 修约到个位为 1
然后 用 1除以5=0.2
则修约结果为 0.2 lilei202 发表于 2025-2-12 17:24
买本书吧 书上有讲解
先给0.293 乘以5=1.465 然后进行修约 修约到个位为 1
然后 用 1除以5=0.2
谢谢。问题去年解决了。当初查了不少资料，已经对很多不同分度值估读做了修约公式了。 没有一个统一的公式去解释，书上搞复杂了，按多少修约，待修约数除以多少，修约到个位后，再乘以多少。这个是通式。100也行50也行，0.2，0.3，0.5也行 有个取巧的方法，看它更接近谁，就取谁。比如0.293，按0.2单位修约，0.293介于0.2和0.4之间，更接近于0.2（小于0.2和0.4的一半0.3），就取0.2。 长度室 发表于 2025-2-16 16:02
有个取巧的方法，看它更接近谁，就取谁。比如0.293，按0.2单位修约，0.293介于0.2和0.4之间，更接近于0.2（ ...
这种方式杜宇个别数量少的证书问题不大，批量性的不行。我已经处理好了，谢谢。 谢谢各位老师，这个问题已经解决了。
页:
[1]