测量数据的处理_AC SSR_Solid State Relay_Relays and Switches_Electrical Products_

Type Classification：: Sicence Popularizing

Data Classification：: AC SSR

测量数据的处理

Date Of Publication：2024-12-23 Click-Through Rate：16

一、数据舍入规则

1．有效数字

由于含有误差，所以测量数据及由测量数据计算出来的算术平均值等都是近似值。

（1）若末位数字是个位，则包含的绝对误差值不大于0.5；

（2）若末位是十位，则包含的绝对误差值不大于5；

（3）对于其绝对误差不大于末位数字一半的数，从它左边第一个不为零的数字起，到右面最后一个数字(包括零)止，都叫做有效数字。中间的0和末尾的0都是有效数字，不能随意添加。开头的零不是有效数字。

测量数据的绝对值比较大（或比较小），而有效数字又比较少的测量数据，应采用科学计数法，即a×10n，a的位数由有效数字的位数所决定。

例1用10v指针式电压表测得U=5.64V三位有效数字，如图1：

图1有效数字示意图

最末位有效数字常称存疑数，它主要由仪表所能达到的精度决定。例如用10V量程指针式电压表测得电压5.64V，这是三位有效数字组成的数据，这三位数中前二位是可从刻度上准确读出的，而最后一位是估读的，是含有误差的近似数，常称为存疑数。

例20.0038KΩ=3.8Ω，两位有效数字；

例30.026m两位有效数字，

0.0260m三位有效数字；

例48700四位有效数字，

87×102两位有效数字；

2.多余数字的舍入规则

由于测量数据和测量结果均是近似数，其位数各不相同。为了使测量结果的表示准确唯一，计算简便，在数据处理时，需对测量数据和所用常数进行修约处理。

数据修约规则：

（1）小于5舍去——末位不变。

（2）大于5进1——在末位增1。

（3）等于5时，取偶数——当末位是偶数，末位不变；末位是奇数，在末位增1（将末位凑为偶数）

例5：将下列数字保留到小数点后一位：l2.34，l2.36，l2.35，l2.45。

解：12.34→l2.3(4<5，舍去)

12.36→l2.4(6>5，进一)

l2.35→l2.4(3是奇数，5入)

12.45→12.4(4是偶数，5舍)

例6：将下列数据舍入到小数第二位。

12.4344→12.4363.73501→63.74

0.69499→0.6925.3250→25.3217.6955→17.70123.1150→123.12

需要注意的是，舍入应一次到位，不能逐位舍入。

二、等精密度测量结果的处理步骤

①用修正值等方法，减小恒值系统误差的影响,列出测量数据x1，x2，x3，……，xn。

②求算术平均值,

;

③求剩余误差（残差）vi=xi–

，并验证。

④用贝塞尔公式计算标准偏差估计值：

;

⑤利用莱特准则，即3σ准则，判别是否存在粗差。

⑥剔除坏值后，再重复求剩下数据的算术平均值、剩余误差及标准差，并再次判断，直至不包括坏值为止。

⑦判断有无变值系统误差。

⑧求算术平均值的标准差估计值

⑨求算术平均值的不确定度

⑩给出测量结果的表达式（报告值）

。

例7：对某电压进行了16次等精密度测量，测量数据中已计入修正值，列于表1–1要求给出包括误差（即不确定度）在内的测量结果表达式。

表1–1 测量值及其计算值
n	xi/V	首次计算		第二次计算
n	xi/V	vi	vi2	vi′	(vi′)2	备注
1	205.24	－0.06	0.0036	＋0.03	0.0009
2	205.21	－0.09	0.0081	0.00	0.0000
3	205.35	＋0.05	0.0025	＋0.14	0.0196
4	204.94	－0.36	0.1296	－0.27	0.0729
5	205.32	＋0.02	0.0004	＋0.11	0.0121
6	204.97	－0.33	0.1089	－0.24	0.0576
7	205.71	＋0.41	0.1681	＋0.50	0.2500
8	205.63	＋0.33	0.1089	＋0.42	0.1764
9	204.70	－0.60	0.3600	－0.51	0.2601
10	205.30	＋0.00	0.0000	＋0.09	0.0081
11	205.36	＋0.06	0.0036	＋0.15	0.0225
12	205.21	－0.09	0.0081	0.00	0.0000
13	204.86	－0.44	0.1936	－0.35	0.1225
14	206.65	＋1.35	1.8225			x13为坏值
15	205.19	－0.11	0.0121	－0.02	0.0004
16	205.16	－0.14	0.0196	－0.05	0.0025
计算值