1 偶然误差的统计特性及精度指标

回顾正态分布

• 随机变量的分布函数、概率密度和分布律都能完整地描述随机变量
• 由随机变量的分布所确定的，能刻画随机变量某一方面的特征的常数称为数字特征

一维正态分布

$$f(x)=\frac{1}{\sqrt{2\pi }\sigma }\exp [-\frac{(x-\mu {)}^2}{2{\sigma }^2}]$$

二维正态分布

$$f(x,y)=\frac{1}{2\pi {\sigma }_x{\sigma }_y\sqrt{1-{\rho }^2}}\exp \{-\frac{1}{2(1-{\rho }^2)}[\frac{(x-{\mu }_x{)}^2}{{\sigma }_x^2}-2\rho \frac{(x-{\mu }_x)(x-{\mu }_y)}{{\sigma }_x{\sigma }_y}+\frac{(y-{\mu }_y{)}^2}{{\sigma }_y^2}]\}$$

其中 $\rho$ 为相关系数，$\rho =0$ 时 $f(x,y)=f(x)f(y)$。

对于正态分布，不相关 = 相互独立

$n$ 维正态分布的矩阵形式

$$f(X_1,X_2,\cdots ,X_n)=\frac{1}{(2\pi {)}^{\frac{n}{2}}|{\mathit{D}}_{XX}{|}^{\frac{1}{2}}}\exp \{-\frac{1}{2}[\mathit{X}-E(\mathit{X}){]}^{\mathrm{T}}{\mathit{D}}_{XX}^{-1}[\mathit{X}-E(\mathit{X})]\}$$

其中有

$$\underset{n\times 1}{\mathit{X}}=\left[\begin{array}{c}{X}_1\\ X_2\\ ⋮\\ X_n\end{array}\right],\underset{n\times 1}{E(\mathit{X})}=\left[\begin{array}{c}E(X_1)\\ E(X_2)\\ ⋮\\ E(X_n)\end{array}\right],\underset{n\times n}{{\mathit{D}}_{XX}}=\left[\begin{array}{cccc}{\sigma }_{X_1}^2& {\sigma }_{X_1{X}_2}& \cdots & {\sigma }_{X_1{X}_n}\\ {\sigma }_{X_1{X}_2}& {\sigma }_{X_2}^2& \cdots & {\sigma }_{X_2{X}_n}\\ ⋮& ⋮& \ddots & ⋮\\ {\sigma }_{X_1{X}_n}& {\sigma }_{X_2{X}_n}& \cdots & {\sigma }_{X_n}^2\end{array}\right],$$

偶然误差的统计特性

• 有界性：绝对值不会超过一定阈值
• 趋向性：大误差概率小，小误差概率大
• 对称性：正负误差频率大致相等
• 抵偿性：观测次数无限增大时理论平均值趋于零

精度的概念

• 精度：观测值 $X$ 与期望 $E(X)$ 之差
• 准确度：期望 $E(X)$ 与真值 $\tilde{X}$ 之差
  • 衡量标准：偏差 $\epsilon =\tilde{X}-E(X)$
• 精准度：观测值 $X$ 与真值 $\tilde{X}$ 之差
  • 衡量标准：均方误差 $\mathrm{MSE}(X)=E(X-\tilde{X}{)}^2$

NOTE

图	精度	准确度	精准度
(a)	低	高	低
(b)	高	低	低
(c)	高	高	高

衡量精度的指标

本课程后续介绍的内容一般不考虑系统误差，即认为 $E(X)=\tilde{X}$。

方差和中误差

定义中误差（即标准差）

$${\sigma }^2=D(X)=E\{[X-E(X){]}^2\}={\int }_{-\mathrm{\infty }}^{+\mathrm{\infty }}[x-E(X){]}^{2}f(x)\mathrm{d}x$$

考虑误差 $\Delta =E(X)-X$，则有

$${\sigma }^2=E({\Delta }^2)=\underset{n\to \mathrm{\infty }}{lim}\frac{1}{n}\sum {\Delta }_i^2$$

当观测值 $n$ 有限时，有中误差的估计值 $\hat{\sigma }$

$${\hat{\sigma }}^2=\frac{1}{n}\sum {\Delta }^2$$

平均误差

$$\theta =E(|\Delta |)=\underset{n\to \mathrm{\infty }}{lim}\frac{1}{n}\sum |{\Delta }_i|$$

当观测值 $n$ 有限时，有平均误差的估计值 $\hat{\theta }$

$$\hat{\theta }=\frac{1}{n}\sum |{\Delta }_i|$$

平均误差与中误差的关系

$$\begin{array}{rl}\theta & =E(|\Delta |)\\ & ={\int }_{-\mathrm{\infty }}^{+\mathrm{\infty }}|\Delta |f(\Delta )\mathrm{d}\Delta \\ & =2{\int }_0^{+\mathrm{\infty }}\frac{\Delta }{\sqrt{2\pi }\sigma }\exp (-\frac{{\Delta }^2}{2{\sigma }^2})\mathrm{d}\Delta \\ & =\frac{2}{\sqrt{2\pi }}{\int }_0^{+\mathrm{\infty }}-\sigma \mathrm{d}\exp (-\frac{{\Delta }^2}{2{\sigma }^2})\\ & =\frac{2\sigma }{\sqrt{2\pi }}{\exp (-\frac{{\Delta }^2}{2{\sigma }^2})|}_0^{+\mathrm{\infty }}\\ & =\sqrt{\frac{2}{\pi }}\sigma \end{array}$$

故有

$$\{\begin{array}{rl}\theta & =\sqrt{\frac{2}{\pi }}\sigma \approx 0.7979\sigma \approx \frac{4}{5}\sigma \\ \sigma & =\sqrt{\frac{\pi }{2}}\theta \approx 1.2533\theta \approx \frac{5}{4}\theta \end{array}$$

或然误差

定义或然误差 $\rho$ 为观测误差 $\Delta$ 在 $(-\rho ,+\rho )$ 内的概率为 ${\displaystyle \frac{1}{2}}$。

由于 $\Delta \sim N(0,{\sigma }^2)$，将其标准化为 $\eta ={\displaystyle \frac{\Delta }{\sigma }}\sim N(0,1)$，有 $\Phi \left({\displaystyle \frac{\rho }{\sigma }}\right)-\Phi (-{\displaystyle \frac{\rho }{\sigma }})={\displaystyle \frac{1}{2}}$，得 ${\displaystyle \frac{\rho }{\sigma }}-0.6475$，故有

$$\{\begin{array}{rl}\rho & =0.6475\sigma \approx \frac{2}{3}\sigma \\ \sigma & =1.4826\rho \approx \frac{3}{2}\rho \end{array}$$

精度的衡量

$\sigma ,\theta ,\rho$ 三者都可作为衡量精度的指标。由于 $n$ 有限，只能求得估值，与理论值有差异。 如果 $n$ 很小，求得的估值都不可靠。对于同一组观测值，中误差能更灵敏地反映大误差的影响，且中误差具有明确的几何意义。

因此通常使用中误差衡量精度。

通常取 3 倍（少数取 2 倍）中误差作为偶然误差 $\Delta$ 的限差。

相对误差

$\sigma ,\theta ,\rho$ 等称为绝对误差。

观测值的中误差与观测值之比称为相对中误差。

$$\frac{{\sigma }_S}{S}=\frac{1}{S/{\sigma }_S}=\frac{1}{N}$$

通常化为 ${\displaystyle \frac{1}{\mathrm{整}\mathrm{百}\mathrm{数}}}$ 的形式。

相对中误差 对应 相对极限误差。

TIP

• 观测误差的精度等于观测值的精度

  观测误差和观测值为加减常数的关系，离散程度是相同的

• 有系统误差不会引起观测值观测误差的精度变化

  系统误差为加减常数，不改变离散程度