小数点位数问题
请教一个问题，在案例回答问题中，经常会遇到求平均值，或者求不确度分量，然后下一步的计算会用到这些值，如果小数点取的不一样，代入计算的结果也会不一样。要如何正确取小数点的位数呢?如：测量三次的值为20.1 N , 20.2 N, 20.1 N 计算算术平均值
/X=(20.1 N+20.2 N+20.1 N)/3 = 20.13 N（取两位是因为后续计算过程更准确）， 还是要保留与测量数据一样的 20.1 N
因为两者数据不一样，导入后续的计算也会不一样，要如何正确取小数点呢？ gx_liumh 发表于 2026-3-20 14:14
在计算中，平均值比测得值多一位小数，且作为最后的表达结果。不确定度分量在计算过程中要比平均值多取一位 ...
是计算的过程中可以多保留一位，不是最后的结果多保留一位。最后的结果要和测量时的一致，这样才能体现出测量的精度。 gx_liumh 发表于 2026-3-20 16:41
你说的是对的，最后的结果要和测量时的一致，我查了JJF 1847-2020 电子天平校准规范 中不确定度的评定 ...JJF 1847－2020《电子天平校准规范》附录C所表述的修约顺序显然是不对的。因为他不符合JJF 1059.1－2012《测量不确定度评定与表示》第5.3.8大条的规定：最终测量结果的修约，应根据该测量结果的不确定度的末位，来确定修约至哪一位。即先按5.3.8.1条，对最终评定出的“测量结果的不确定度”进行修约，然后再按5.3.8.3条的规定，对最终的测量结果进行修约。而不是先根据仪器的实际物理分辨力来修约测量结果，然后再来修约不确定度。因为有的数显电子仪器的分辨力可以人为调整的，想显示几位小数就可以设置几位(假设设置显示小数点后6位，即0.000001 g)。但这种人为设置的物理分辨力太高，有可能第5位小数就稳不住了(数字乱跳)。这种情况下，你也按照这种人为设定的物理分辨力来修约吗？显然没有道理。这种情况下，就应该根据仪器的“有效分辨力”(与不确定度的末位相对应)进行修约。以JJF 1847－2020的示例来说，评定得到的最终U95≈0.000332 g，其首位非零数3＞2，故修约保留1位有效数字，即：U95＝0.0003 g，然后将最终测量结果(多次测量结果的平均值)修约至与不确定度的末位对齐(即：修约至小数点后第4位)。 平均值比测得值多一位小数不确定度分量比平均值多一位小数 扩展不确定度与测得值位数对齐 应该先求出该测量结果的扩展不确定度(按修约规则保留1至2位有效数字)，然后将测量结果(平均值)修约至与不确定度的末位对齐。 在计算中，平均值比测得值多一位小数，且作为最后的表达结果。不确定度分量在计算过程中要比平均值多取一位小数，到最后的表达结果，扩展不确定度与平均值位数对齐（取一位或两位有效数字）。 lhy118 发表于 2026-3-20 15:03
是计算的过程中可以多保留一位，不是最后的结果多保留一位。最后的结果要和测量时的一致，这样才能体 ...
你说的是对的，最后的结果要和测量时的一致，我查了JJF 1847-2020 电子天平校准规范 中不确定度的评定过程，结果以仪器仪表的实际分度值为准。 lhy118 发表于 2026-3-20 15:03
是计算的过程中可以多保留一位，不是最后的结果多保留一位。最后的结果要和测量时的一致，这样才能体 ...
正解，过程多一位，结果保持相同 又学到了 还是得在论坛里学啊 都是知识 gx_liumh 发表于 2026-3-20 16:41
你说的是对的，最后的结果要和测量时的一致，我查了JJF 1847-2020 电子天平校准规范 中不确定度的评定 ...如果这台电子天平的重复性很差，评定得到的Up＝0.00332 g呢，你最终的U95等于多少？等于0.0033 g吗？ 本帖最后由 gx_liumh 于 2026-3-30 09:37 编辑
路云 发表于 2026-3-28 18:57
如果这台电子天平的重复性很差，评定得到的U＝0.00332 g呢，你最终的U等于多少？等于0.0033 g吗？ ...
如果这台天平重复性很差，评定得到的U＝0.00332 g，则天平重复性已超过规程的要求，判断不合格，需要维修或报废了，不确定度评定已无意义。我在企业从事电子天平检定20多年，检定每台电子天平都给出不确定度，重复性测定时最右边数据波动不会超过5个数字，一般在3个以内（我们的电子天平都是梅特勒/赛多利斯/普利赛斯），0-220g/0.1mg的天平不确定度U不超过0.3mg。不能为了数据而计算，脱离实际。如果电子天平的U超过10倍的分辨力d（或者超过检定分度值e），就要核查检定电子天平的砝码是否满足规程要求，或者天平的稳定性有问题，需要维修了。
在检定0-220g/0.1mg的电子天平200g点时，现在要求使用E2砝码，在不确定度评定中，砝码和电子天平分辨力引入的分量不超过0.06mg(使用F1砝码不超过0.35mg），天平重复性按规程要求不超过1e时的极限数据假设为（0.5,0.5,0.5,0.5,0.5，-0.5，-0.5，-0.5，-0.5，-0.5）mg,天平重复性分量0.53mg，不考虑其他影响的情况下，扩展不确定度U不超过1.3mg(使用F1砝码）.
gx_liumh 发表于 2026-3-30 08:53
如果这台天平重复性很差，评定得到的U＝0.00332 g，则天平重复性已超过规程的要求，判断不合格，需要维修 ...校准不需要您判断是否合格，不合格我可以降低使用要求，用于要求不高的使用场合。我现在就是让您依据JJF 1059.1－2012《测量不确定度评定与表示》第5.3.8大条的要求，给出校准结果的不确定度。
页:
[1]