您好,欢迎来到郑州市建设工程质量检测有限公司!
首页新闻动态 学术专题  行业新闻公司新闻学术专题公司文化
测量数据的有效数字
来源:室内环境检测部(网络转载) 时间:2019-05-29 浏览量:496

1 有效数字用于表示测量数字的有效意义。指测量中实际能测得的数字,由有效数字构成的数值,其倒数第二位以上的数字应是可靠的(确定的),只有末位数是可疑的(不确定的)。对有效数字的位数不能任意增删。

2 由有效数字构成的测定值必然是近似值,因此,测定值的运算应按近似计算规则进行。

3 数字“0”,当它用于指小数点的位置,而与测量的准确度无关时,不是有效数字;当它用于表示与测量准确程度有关的数值大小时,即为有效数字。这与“0”在数值中的位置有关。

4 一个分析结果的有效数字的位数,主要取决于原始数据的正确记录和数值的正确计算。在记录测量值时,要同时考虑到计量器具的精密度和准确度,以及测量仪器本身的读数误差。对检定合格的计量器具,有效位数可以记录到最小分度值,最多保留一位不确定数字(估计值)

以实验室最常用的计量器具为例:

(1)用天平(最小分度值为0.1mg)进行称量时,有效数字可以记录到小数点后面第四位,如1.2235g,此时有效数字为五位;称取0.9452g,则为四位。

(2)用玻璃量器量取体积的有效数字位数是根据量器的容量允许差和读数误差来确定的。如单标线A 50mL 容量瓶,准确容积为50.00mL;单标线A 10mL 移液管,准确容积为10.00mL,有效数字均为四位;用分度移液管或滴定管,其读数的有效数字可达到其最小分度后一位,保留一位不确定数字。

(3)分光光度计最小分度值为0.005,因此,吸光度一般可记到小数点后第三位,有效数字位数最多只有三位。

(4)带有计算机处理系统的分析仪器,往往根据计算机自身的设定,打印或显示结果,可以有很多位数,但这并不增加仪器的精度和可读的有效位数。

(5)在一系列操作中,使用多种计量仪器时,有效数字以最少的一种计量仪器的位数表示。

5 表示精密度的有效数字根据分析方法和待测物的浓度不同,一般只取1位~2位有效数字。

6 分析结果有效数字所能达到的位数不能超过方法最低检出浓度的有效位数所能达到的位数。例如,一个方法的最低检出浓度为0.02mg/L,则分析结果报0.088mg/L 就不合理,应报0.09mg/L

7 以一元线性回归方程计算时,校准曲线斜率b 的有效位数,应与自变量xi 的有效数字位数相等,或最多比xi 数值多保留一位。截距a 的最后一位数,则和因变量yi 数值的最后一位取齐,或最多比yi 多保留一位数。

8 在数值计算中,当有效数字位数确定之后,其余数字应按修约规则一律舍去。

9 在数值计算中,某些倍数、分数、不连续物理量的数值,以及不经测量而完全根据理论计算或定义得到的数值,其有效数字的位数可视为无限。这类数值在计算中按需要几位就定几位。