1.4 测量结果的表示及数据处理
1.4.1 测量结果的表示
测量结果一般以数字方式或图形方式表示。图形方式可以通过测量仪器的显示屏上直接显示的图形得到,也可以通过对数据进行描点作图得到。测量结果的数字表示方法有以下几种。
1.测量值+不确定度
这是最常用的表示方法,特别适合表示最后的测量结果。例如R=(40.67±0.5)Ω, 40.67Ω称为测量值,±0.5Ω称为不确定度,表示被测量实际值是处于40.17~41.17Ω之间的任意值,但不能确定具体数据。不确定度和测量值都是在对一系列测量数据的处理过程中得到的。
2.有效数字
有效数字是由第一种数字表示方法改写而成的,比较适合表示中间结果。当未标明测量误差或分辨力时,有效数字的末位一般与不确定度第一个非零数字的前一位对齐,这是由不确定度的含义及“0.5误差原则”所决定的。对于确定的数,通常规定误差不得超过末位单位数字的一半。例如,若末位数字是个位,则测量的绝对误差值小于0.5;若末位是十位,则测量的绝对值误差小于5。对于这种误差不大于末位单位数字一半的数,从它的第一个不为零的数字起,直到右边最后一个数字为止,都叫有效数字。例如:
3.141 59六位有效数字
3.141 6五位有效数字
9 600四位有效数字
97×102两位有效数字
0.032两位有效数字
0.302三位有效数字
极限(绝对)误差≤0.000005
极限(绝对)误差≤0.00005
极限(绝对)误差≤0.5
极限(绝对)误差≤0.5×102
极限(绝对)误差≤0.0005
极限(绝对)误差≤0.0005
数字的表示方法不同,其含义是不同的。如写成30.50,表示最大绝对误差不大于0.005;而若写成30.5,则表示最大绝对误差不大于0.05。再如某电流的测量结果写成2000mA,表示绝对误差小于0.5mA;而如果写成2A,则表示仅有一位有效数字,绝对误差小于0.5A;但如写成2.000A,绝对误差则与2000mA完全相同。
3.有效数字加上1~2位的安全数字
该方法是由前两种表示方法演变而成的,它比较适合表示中间结果或重要数据。加安全数字可以减小由第一种方法改写成第二种方法时产生的误差对测量结果的影响。该方法是在第二种表示方法确定出有效数字位数的基础上,根据需要向后多取1~2位安全数字,而多余数字应按照有效数字的舍入规则进行处理。例如,R=(40.67±0.5)Ω用有效数字加上1位安全数字表示为40.7Ω,末位的7为安全数字;用有效数字加上两位安全数字表示为40.67Ω,末尾的6、7为安全数字。
上述方法表示出的结果是测量报告值。
1.4.2 有效数字的处理
有效数字的处理包括有效数字位数的取舍及有效数字的舍入。
1.有效数字及其位数的取舍
在测量过程中,通常要在量程最小刻度的基础上多估读一位数字作为测量值的最后一位,此估读数字称为欠准数字。欠准数字后的数字是无意义的,不必记入。由此得出的示值是测量记录值,与测量报告值是不同的。例如,某类型万用表直流50V 量程的分辨力为1V,读成32.7V是恰当的,但不能读成32.73V。32.7V是测量记录值。
从第一个非零数字起后面所有的数字称为有效数字。例如,0.0430V的有效数字位数是3位而不是5位或2位,第一个非零数字前的0仅表示小数点的位置而不是有效数字。未标明仪器分辨力时,有效数字中非零数字后的0不能随意省略,例如3000V可以写成3.000kV、3.000×103V,而不能写成3kV、3.0kV或3.00kV。
电子测量中,如果未标明测量误差或分辨力,通常认为有效数字具有不大于欠准数字±0.5单位的误差,称为0.5误差原则。例如0.430V、0.43V 表示的测量误差分别为±0.0005V、±0.005V,标明被测量实际值分别处于0.429 5~0.4305V、0.425~0.435V,因此二者表示的意义是不同的。同样道理,3.000kV与3.000×103V表示的结果相同;而3kV、3.0kV、3.00kV表示的结果不相同。
有效数字40.67Ω表示测量误差不大于±0.005Ω,说明被测电阻实际值在40.665~40.675Ω,显然比R=(40.67±0.5)Ω表示的电阻实际值区间要窄,故当用40.67Ω作为中间结果进行计算时,势必要漏掉真实数据,所以除非要用“有效数字加上1~2位安全数字”表示测量结果,否则不能将R=(40.67±0.5)Ω改写成40.67Ω或40.7Ω,但可以改写成41Ω,末位数字的取值根据有效数字的舍入规则进行。
2.数字修约规则
数字修约采取的是“四舍六入五留双”的规则。具体的做法是,当尾数≤4时,将其舍去;当尾数≥6时,就进一位;如果尾数为5而后面的数为0时,则看前方:前方为奇数就进位,前方为偶数则舍去,“0”则以偶数论;当“5”后面还有不是0的任何数时,都须向前进一位,无论前方是奇数还是偶数。例如,将10.34, 10.36, 10.35, 10.45保留小数点后一位有效数字,即
10.34→10.3(4<5,舍去)
10.36→10.4(6>5,进一)
10.35→10.4(3是奇数,5入)
10.45→10.4(4是偶数,5舍)
必须注意,进行数字修约时,只能一次修约到指定的位数,不能数次修约,否则会得出错误的结果。
[例1-1] 用一台0.5级100V量程的电压表测量电压,指示值为15.35V,试确定有效数字的位数。
解:该表100V量程挡最大绝对误差为
ΔUm=100V×(±0.5%)=±0.5V
可见被测量实际值在14.85~15.85V,绝对误差为±0.5V。根据“0.5误差原则”,测量结果的末位应为个位,即应保留两位有效数字。因此不标注误差时的测量报告值为15V。一般将记录值的末位与绝对误差取齐,例中误差为0.5V,所以测量记录值为15.4V。