化学有效数字的运算法则和修约规则

摘要：监测工作过程中需要记取大量数据，所以要求工作人员提高记录数据的精确度和准确度，该文概述了化学有效数字运算法则及修约规则，并结合了实际监测数据做了详细分析，以便更加准备的做好监测工作。

关键词：有效数字 准确度 运算规则 修约规则 监测数据

中图分类号：TB114 文献标识码：A 文章编号：1674-098X（2013）02（b）-0181-01

1.有效数字定义

在监测工作中，需要记取很多读数，一般允许最后一位是估计的，虽不太准确，却不是任意的。它们全都是有效的，所以称为有效数字，即指分析测量中所能得到的有实际意义的数字。记录仪器的读数的有效数字位数由仪器的性能和测量方法的精密度决定，通常可估计到测量仪器最小刻度的十分位。对于一个数来说，含有有效数的个数叫做这个数的准确度，而一个数的最后一个可靠数字相对于零的位置叫做这个数的精确度。

2.有效数字的运算法则

监测分析中，试样的结果由以一系列测得的原始数据经一定计算公式的运算而求得。在运算过程中，两数的相加减，应使它们有相同的精确度；两数相乘除，应使它们有相同的准确度，即每一个数都保留同样位数的有效数字。近似运算中应遵循以下几点：（1）几个数相加减时：它们的和或差的有效数字保留的位数应以小数点后位数最少的那个数为依据。在运算过程中看，可多保留一位小数，最后结果按修约规则取舍。（2）做乘除运算时：有效数字的位数取决于相对误差最大的那个数或者有效数字位数最少的那个数。要注意的是，乘除法前，应先将各近似值修约至比有效数字位数最少者多保留一位有效数字。或每一个分步运算的结果，、应比有效数字位数最少的那个数多保留一位。（3）做乘方和开方时：计算结果与原近似值的有效数字位数一致。（4）做对数和反对数时：计算时，所取对数的小数点后的位数（不包括首数）应与真数的有效位数一致。最常用的是pH与氢离子浓度的换算。（5）算平均值时：求四个或四个以上准确度接近的近似值的平均值，其有效数字位数可增加一位。

3.数字修约规则

进舍规则：在计算一组有效数字位数不同的数据以前，应该首先按照确定了的有效数字将多余的数字予以修约。弃去多余的或无意义的数字过去采用“四舍五入”的规则。在国家标准规定采用“四舍六人五取舍”的规则，尽量使5本身引起的正负误差相抵消。当有效数字和位数确定以后，它后面的数字应当按照的规则，可以归纳为下面的顺口溜：“四要舍，六要入，五后有数前进一，五后无数看前方，前为奇数要进一，前为偶数要舍去，‘0’字视为偶，负数按绝对，不论舍去多少位，必须一次修完毕。”

修约规则应注意两点。

（1）凡产品标准中有界限数字时，不允许采用修约方法，对超出标准中规定的允许偏差数值，也不允许修约。在对表示标准差的数字修约时，是只进不舍。

（2）在具体实践中，有时测试与计算部门先将获得的数值按指定的修约位数多一位或几位报出，而后由其他部门判定。为了防止连续修约，报出数值最右的非零数字为5时，应在数值后不加符号或加“+”或“-”，以分别表明未舍未进或已进行过舍或进。

4.监测数据的有效位数

监测数据报出的位数，对监测结果的准确性和数据资料的统计整理都是十分重要的。监测数据的有效位数应与测试系统的准确度相适应。记录测试数据时，只保留一位可疑数字。本监测室承担着水处理中心，后宅，大陈，江东，稠江以及佛堂六个运营部的水质监测工作，其中水处理中心的数据是，进水为生活污水，出水是A标一级排放标准。

（1）水量，泥量，絮凝剂用量，用电量均取整数。

（2）沉降比和污泥浓度测量值取整数。

（3）灰分为重量法分析项目：有机质（%）取小数点后一位。

以下是2013年元月28日的中心监测数据：

（4）pH，阴阳离子含量（mg/L）取小数点后二位。

（5）重量法分析项目，悬浮物测值1000时，取三位有效数字。

（6）高锰酸盐指数测值>10时取小数点后一位，测值100时取三位有效数字，100>测值>10时取小数点后一位，测值

（7）一般分光光度计读数可以记到小数点后三位并且其有效数字位数最多也只有三位，所以，对于分光光度分析项目，当测值1时，监测数据最多取三位有效数字。亚硝酸盐氮取小数点后三位，氨氮，总氮取小数点后二位，总磷取小数点后三位。

以下是2013年元月28日的中心监测数据：

5.结语

数值中，只有最后一位的数字是估计的，而前面所有位数的数字都是准确的。关于有效数字的位数，有几个必须注意点。不同的运算方法有不一样的保留位数。修约应遵循新的规则。具体的分析项目有特定的准确度与精确度。