本文作者:环境监测技术交流
日常环境监测过程中,经常会需要进行数据的计算,就会遇到计算过程中有效位数数位该如何取舍的问题。下面介绍一下环境监测中数据的近似计算规则。
(1)加法和减法
几个近似值相加减时,其和或差的有效数字位数,与小数点后位数最少者相同。在运算过程中,可以多保留一位小数。计算结果则按数值修约规则处理。
几个近似值相加减时,其和或差的有效数字决定于绝对误差最大的数值,即最后结果的有效数字自左起不超过参加计算的近似值中第一个出现的可疑数字。在小数的加减计算中,结果所保留的小数点后的位数与各近似值中小数点后位数最少者相同。
例:1.7250 74.3 21.23 ≈ 1.72 74.3 21.23 = 97.25
最后计算结果按照修约规则处理,表示为:97.2。
(2)乘法和除法
几个近似值相乘除时,所得积与商的有效数字位数决定于各种值中有效数字位数最少者。在实际运算时,先将各近似值修约至比有效数字位数最少者多保留一位,最后将计算结果按上述规则处理。
几个近似值相乘除时,所得积与商的有效数字位数决定于相对误差最大的近似值,即最后结果的有效数字位数要与近似值中有效数字位数最少者相同。
例:1.141 × 4.3 × 0.131 ≈ 1.14 × 4.3 × 0.131 = 0.642162
最后计算结果按照修约规则处理,表示为:0.64。
(3)乘方和开方
近似值乘方或开方时,原近似值有几位有效数字,计算结果就可以保留几位有效数字。
例:1.3222 = 1.747684
最后计算结果应保留四位有效数字:1.748。
例:1.4141/2 = 1.189117…
最后计算结果应保留四位有效数字:1.189。
(4)对数和反对数
在近似值的对数计算中,所取对数的小数点后的位数(不包括首数)应与真数的有效数字位数相同。
例:[H ]浓度为7.00 ×10-2 mol/L的pH值计算。
pH = -lg[H ] = -lg[7.00 ×10-2] = 1.154901…(真数7.00×10-2是三位有效数字)
最后计算结果是求对数,小数点后的位数应保留三位有效数字:1.155。
例:pH为4.00的溶液中[H ]的浓度计算。
[H ] = -lg[H ] = 4.00 (对数4.00小数点后有两位数字,故真数要有两位有效数字)
最后计算结果应保留二位有效数字:1.0×10-4 mol/L
(5)求4个或4个以上准确度接近的数值的平均值时,其有效数字位数可增加一位。
例:(1.20 1.21 1.23 1.23)÷ 4 = 1.2175
最后计算结果按照修约规则处理,可表示为:1.218。
,