zeroline 发表于 2015-5-22 11:57:01

问一个△α的问题(二等标准铂电阻)

我在计算的时候发现α的值是1/1000,是-3次方,标准的α也是-3次方,但是△α是-6次方,这样计算得到的α和标准α的值相减得到的值是-6次方,这样的数据可信吗?我在实际测量并计算得到的△α只是-4次方,这样根本达不到合格的要求,请问有人得到过这样的数据吗?

小河清水 发表于 2015-5-25 20:54:43

不要纠结与几次方,换算为小数一比较就清楚了,很简单。

薛世昕 发表于 2015-11-17 22:31:25

学习了!感谢!

liangyub 发表于 2015-11-17 22:51:08

计算△α要保留到要求的有效位数,同样α也必须保留到足够的精度位数,否则就算不出来了。
页: [1]
查看完整版本: 问一个△α的问题(二等标准铂电阻)