概率统计公式合集

常用分布

二项分布

• 符号：$X\sim B(n,p)$
• 概率：$P(X=k)={\mathrm{C}}_n^k{p}^k(1-p{)}^{n-k}$
• 期望：$E(X)=np$
• 方差：$\mathrm{Var}(X)=np(1-p)$

泊松分布

• 符号：$X\sim P(\lambda )$
• 概率：$P(X=k)={\displaystyle \frac{{\lambda }^k}{k!}}{e}^{-\lambda }$，$k=0,1,2,\cdots$
• 期望：$E(X)=\lambda$
• 方差：$\mathrm{Var}(X)=\lambda$

二项分布的泊松近似：若二项分布的 $n$ 充分大且 $p$ 充分小，$B(n,p)$ 可近似为 $P(np)$。

泊松分布的可加性：若有 $X,Y$ 相互独立且 $X\sim P({\lambda }_1)$，$Y\sim P({\lambda }_2)$，则有 $X+Y\sim P({\lambda }_1+{\lambda }_2)$。

均匀分布

• 符号：$X\sim U(a,b)$
• $f(x)=\{\begin{array}{ll}{\displaystyle \frac{1}{b-a}},& a<x<b\\ 0,& \mathrm{其}\mathrm{他}\end{array}$
• $E(X)={\displaystyle \frac{a+b}{2}}$
• $E(X^2)={\displaystyle \frac{a^2+ab+b^2}{3}}$
• $\mathrm{Var}(X)=E(X^2)-[E(X){]}^2={\displaystyle \frac{(b-a{)}^2}{12}}$

正态分布

符号：$X\sim N(\mu ,{\sigma }^2)$，表示期望为 $\mu$、方差为 ${\sigma }^2$ 的正态分布。其密度函数为：

$$f(x)={\displaystyle \frac{1}{\sqrt{2\pi }\sigma }}{e}^{-\frac{(x-\mu {)}^2}{2{\sigma }^2}}$$

对于 $X\sim N(\mu ,{\sigma }^2)$，有

$$P(a<X<b)=\Phi \left(\frac{b-\mu }{\sigma }\right)-\Phi \left(\frac{a-\mu }{\sigma }\right)$$

另有标准正态的 $k$ 阶原点矩公式：

$$E(X^k)=\{\begin{array}{ll}0& k\mathrm{为}\mathrm{奇}\mathrm{数}\\ (k-1)!!& k\mathrm{为}\mathrm{偶}\mathrm{数}\end{array}$$

正态分布的可加性：设随机变量 $X$ 与 $Y$ 相互独立，且 $X\sim N({\mu }_1,{\sigma }_1^2)$，$X_2\sim N({\mu }_2,{\sigma }_2^2)$，则有

$$X+Y\sim N({\mu }_1+{\mu }_2,{\sigma }_1^2+{\sigma }_2^2)$$

二维正态分布

对于 $(X,Y)\sim N({\mu }_1,{\mu }_2,{\sigma }_1^2,{\sigma }_2^2,\rho )$，有

$$f(x,y)=\frac{1}{2\pi {\sigma }_1{\sigma }_2\sqrt{1-{\rho }^2}}\exp \{-\frac{1}{2(1-{\rho }^2)}[\frac{(x-{\mu }_1{)}^2}{{\sigma }_1^2}-\frac{2\rho (x-{\mu }_1)(y-{\mu }_2)}{{\sigma }_1{\sigma }_2}+\frac{(y-{\mu }_2{)}^2}{{\sigma }_2^2}]\}$$

其中 $\rho$ 表示两个随机变量 $X,Y$ 的相关系数。

指数分布

• 符号：$X\sim E(\lambda )$
• $f(x)=\{\begin{array}{ll}\lambda e^{-\lambda x},& x>0\\ 0,& \mathrm{其}\mathrm{他}\end{array}$
• $F(x)=\{\begin{array}{ll}1-e^{-\lambda x},& x\ge 0\\ 0,& \mathrm{其}\mathrm{他}\end{array}$
• $E(X)={\displaystyle \frac{1}{\lambda }}$
• $\mathrm{Var}(X)={\displaystyle \frac{1}{{\lambda }^2}}$

指数分布具有无记忆性。即 $P(X>s+t|X>s)=P(X>t)$。

${\chi }^2$ 分布

设 $X_1,X_2,\cdots ,X_n$ 为独立同分布随机变量，有 $X_i\sim N(0,1)$。则定义随机变量 $U=\sum _{i=1}^n{X}_i^2$ 服从自由度为 $n$ 的 ${\chi }^2$ 分布，记为 $U\sim {\chi }^2(n)$。

• 期望 $E(X)=n$
• 方差 $\mathrm{Var}(X)=2n$
• 若 $X\sim N(0,1)$，则 $X^2\sim {\chi }^2(1)$
• 自由度为 $2$ 的 ${\chi }^2$ 分布就是参数为 ${\displaystyle \frac{1}{2}}$ 的 指数分布，即 $E\left({\displaystyle \frac{1}{2}}\right)={\chi }^2(2)$。

${\chi }^2$ 分布的可加性：若 $Y_1\sim {\chi }^2(m)$，$Y_2\sim {\chi }^2(n)$，且 $Y_1,Y_2$ 相互独立，则有 $Y_1+Y_2\sim {\chi }^2(m+n)$。

t 分布

定义 设随机变量 $X\sim N(0,1),Y\sim {\chi }^2(n)$ 且 $X,Y$ 相互独立，称随机变量 $T={\displaystyle \frac{X}{\sqrt{Y/n}}}$ 所服从的分布为自由度 $n$ 的 t 分布，记为 $T\sim t(n)$。

当 $n\ge 30$ 时，t 分布可使用标准正态分布近似替代。

期望 $E(X)=0$。

F 分布

定义 设随机变量 $U\sim {\chi }^2(m),V\sim {\chi }^2(n)$ 且 $U,V$ 相互独立，则称随机变量 $F={\displaystyle \frac{U/m}{V/n}}$ 服从自由度为 $(m,n)$ 的 F 分布，记为 $F\sim F(m,n)$。

协方差

$$\begin{array}{c}\mathrm{Cov}(X,Y)=E\{[X-E(X)][Y-E(Y)]\}\\ \mathrm{Cov}(X,Y)=E(XY)-E(X)E(Y)\\ \mathrm{Cov}(X,X)=\mathrm{Var}(X)\\ \mathrm{Cov}(kX,lY)=kl\mathrm{Cov}(X,Y)\\ \mathrm{Var}(X\pm Y)=\mathrm{Var}(X)+\mathrm{Var}(Y)\pm 2\mathrm{Cov}(X,Y)\\ \mathrm{Cov}(\sum _{i=1}^m{X}_i,\sum _{j=1}^n{Y}_j)=\sum _{i=1}^m\sum _{j=1}^n\mathrm{Cov}(X_i,Y_j)\\ \mathrm{Cov}(X,Y)=\mathrm{Cov}(Y,X)\end{array}$$

大数定律与中心极限定理

马尔可夫不等式：对于非负随机变量 $X$，$\mathrm{\forall }p,e>0$ 有

$$P(X\ge \epsilon )\le \frac{E(X^p)}{{\epsilon }^p}$$

切比雪夫不等式：对于非负随机变量 $X$，$\mathrm{\forall }\epsilon >0$ 有

$$P(|X-E(X)|\ge \epsilon )\le \frac{\mathrm{Var}(x)}{{\epsilon }^2}$$

设有随机变量 $X_1,X_2,\cdots ,X_n,\cdots$，记 $\overline{X}={\displaystyle \frac{1}{n}}\sum _{i=0}^n{X}_i$，如果满足 $\overline{X}-E(\overline{X})\stackrel{P}{\to }0$，称随机变量序列 $X_1,X_2,\cdots ,X_n,\cdots$ 服从大数定律。

马尔可夫大数定律：如果随机变量序列满足 $\underset{n\to \mathrm{\infty }}{lim}{\displaystyle \frac{1}{n^2}}\mathrm{Var}\left(\sum _{i=1}^n{X}_i\right)=0$，则服从大数定律。

辛钦大数定律：独立同分布的随机变量序列，只要期望存在，就服从大数定律。

对于独立同分布随机变量 $X_1,\cdots ,X_n,\cdots$，有

$$(\overline{X}{)}^{\ast }=(\sum X_i{)}^{\ast }=\frac{\overline{X}-\mu }{\sigma /\sqrt{n}}\stackrel{L}{\to }N(0,1)$$

或者也可以表达为：

$$\overline{X}\stackrel{L}{\to }N(\mu ,\frac{{\sigma }^2}{n})$$

统计量

$$\sum _{i=1}^n(X_i-\overline{X}{)}^2=\sum _{i=1}^n(X_i-c{)}^2-n(\overline{X}-c{)}^2$$

通常 $c$ 取 $0$：

$$\sum _{i=1}^n(X_i-\overline{X}{)}^2=\sum _{i=1}^n{X}_i^2-n{\overline{X}}^2$$

最大次序统计量

$$\begin{array}{rl}{X}_{(n)}& =\underset{1\le i\le n}{max}{X}_i\\ \Rightarrow F_{X_{(n)}}(x)& =[F(x){]}^n\\ \Rightarrow f_{X_{(n)}}(x)& =\frac{\mathrm{d}}{\mathrm{d}x}{F}_{X_{(n)}}(x)=n[F(x){]}^{n-1}f(x)\end{array}$$

最小次序统计量

$$\begin{array}{rl}{X}_{(1)}& =\underset{1\le i\le n}{min}{X}_i\\ \Rightarrow F_{X_{(1)}}(x)& =1-[1-F(x){]}^n\\ \Rightarrow f_{X_{(1)}}(x)& =\frac{\mathrm{d}}{\mathrm{d}x}{F}_{X_{(1)}}(x)=n[1-F(x){]}^{n-1}f(x)\end{array}$$

正态分布抽样定理

设 $(X_1,\cdots ,X_n)$ 是取自正态总体 $N(\mu ,{\sigma }^2)$ 的一个样本，有

• $\overline{X}\sim N(\mu ,{\displaystyle \frac{{\sigma }^2}{n}})$，即 ${\displaystyle \frac{\overline{X}-\mu }{\sigma /\sqrt{n}}}\sim N(0,1)$
• ${\displaystyle \frac{\overline{X}-\mu }{S/\sqrt{n}}}\sim t(n-1)$
• ${\displaystyle \frac{(n-1)S^2}{{\sigma }^2}}\sim {\chi }^2(n-1)$