5.3 向量的内积、长度及正交性

向量内积

定义 设有 $n$ 维向量

$$\mathit{x}=\left(\begin{array}{c}{x}_1\\ x_2\\ ⋮\\ x_n\end{array}\right),\mathit{y}=\left(\begin{array}{c}{y}_1\\ y_2\\ ⋮\\ y_n\end{array}\right)$$

令

$$(\mathit{x},\mathit{y})=x_1{y}_1+x_2{y}_2+\cdots +x_n{y}_n$$

$(\mathit{x},\mathit{y})$ 称为向量 $\mathit{x}$ 与 $\mathit{y}$ 的内积。

内积是两个向量之间的一种运算，其结果是一个实数，用矩阵记号表示，当 $\mathit{x}$ 与 $\mathit{y}$ 都是列向量时，有

$$(\mathit{x},\mathit{y})={\mathit{x}}^{\mathrm{T}}\mathit{y}$$

内积具有下列性质：

• $(\mathit{x},\mathit{y})=(\mathit{y},\mathit{x})$；
• $(\lambda \mathit{x},\mathit{y})=\lambda (\mathit{x},\mathit{y})$；
• $(\mathit{x}+\mathbf{,}\mathit{z})=(\mathit{x},\mathit{z})+(\mathit{y},\mathit{z})$；
• 当 $\mathit{x}=\mathbf{0}$ 时，$(\mathit{x},\mathit{x})=0$；当 $\mathit{x}\ne \mathbf{0}$ 时，$(\mathit{x},\mathit{x})>0$。

另有施瓦茨不等式：

$$(\mathit{x},\mathit{y}{)}^2\le (\mathit{x},\mathit{x})(\mathit{y},\mathit{y})$$

$n$ 维向量的内积是数量积的一种推广，但 $n$ 维向量没有 3 维向量那样直观的长度和夹角的概念，因此只能按数量积的直角坐标计算公式来推广。并且反过来，利用内积来定义 $n$ 维向量的长度和夹角。

长度与夹角

长度

令

$$\parallel \mathit{x}\parallel =\sqrt{(\mathit{x},\mathit{x})}=\sqrt{x_1^2+x_2^2+\cdots +x_n^2}$$

$\parallel \mathit{x}\parallel$ 称为 $n$ 维向量 $\mathit{x}$ 的长度（或范数）。

向量的长度有如下性质：

• 非负性：当 $\mathit{x}\ne \mathbf{0}$ 时，$\parallel \mathit{x}\parallel >0$，当 $\mathit{x}=\mathbf{0}$ 时，$\parallel \mathit{x}\parallel =0$；
• 齐次性：$\parallel \lambda \mathit{x}\parallel =|\lambda |\cdot \parallel \mathit{x}\parallel$；
• 三角不等式：$\parallel x+y\parallel \le \parallel x\parallel +\parallel y\parallel$。

当 $\parallel \mathit{x}\parallel =1$ 时，称 $\mathit{x}$ 为单位向量。

若有向量 $\mathit{a}\ne \mathbf{0}$，取 $\mathit{e}={\displaystyle \frac{1}{\parallel \mathit{a}\parallel }}\mathit{a}$，则 $\mathit{e}$ 是一个单位向量，这一过程称为向量 $\mathit{a}$ 的单位化。

例 1

将向量 $\mathit{\alpha }=(-1,-1,1{)}^{\mathrm{T}}$ 单位化。

$$\mathit{e}=\frac{\mathit{\alpha }}{\parallel \mathit{\alpha }\parallel }=\frac{1}{\sqrt{(-1{)}^2+(-1{)}^2+1^2}}\left(\begin{array}{c}-1\\ -1\\ 1\end{array}\right)=\left(\begin{array}{c}-\frac{1}{\sqrt{3}}\\ -\frac{1}{\sqrt{3}}\\ \frac{1}{\sqrt{3}}\end{array}\right)$$

夹角

定义 设有 $n$ 维向量 $\mathit{x}$ 与 $\mathit{y}$，且 $\mathit{x}\ne \mathbf{0}$，$\mathit{y}\ne \mathbf{0}$，令

$$\theta =\arccos \frac{(\mathit{x},\mathit{y})}{\parallel \mathit{x}\parallel \cdot \parallel \mathit{y}\parallel }$$

$\theta$ 称为 $n$ 维向量 $\mathit{x}$ 与 $\mathit{y}$ 的夹角。$\theta \in [0,\pi ]$。

正交及其相关概念

正交

定义 设有 $n$ 维向量 $\mathit{x}$ 与 $\mathit{y}$，若 $(\mathit{x},\mathit{y})=0$，称向量 $\mathit{x}$ 与 $\mathit{y}$ 正交。

WARNING

零向量与其他向量没有夹角，但零向量与任何向量都正交。

向量正交是几何空间中向量垂直概念的推广。

正交向量组

定义 一组两两正交的非零向量称为正交向量组。

定理 若 $n$ 维向量组 ${\mathit{a}}_1,{\mathit{a}}_2,\cdots ,{\mathit{a}}_r$ 是正交向量组，则该向量组线性无关。

证明

设有 ${\lambda }_1,{\lambda }_2,\cdots ,{\lambda }_r$ 使得

$${\mathit{a}}_1+{\lambda }_2{\mathit{a}}_2+\cdots +{\lambda }_r{\mathit{a}}_r=\mathbf{0}$$

等式两边同时与 ${\mathit{a}}_1$ 作内积，因 $i\ne 1$ 时，$({\mathit{a}}_1,{\mathit{a}}_i)=0$，故有

$${\lambda }_1({\mathit{a}}_1,{\mathit{a}}_1)={\lambda }_1\cdot \Vert {\mathit{a}}_1^2\Vert =0$$

又有 ${\mathit{a}}_1\ne 0$，因此 $\Vert {\mathit{a}}_1^2\Vert \ne 0$，故必有 ${\lambda }_1=0$。同理可证 ${\lambda }_2=\cdots ={\lambda }_r=0$，因此该向量组线性无关，证毕。

标准正交基

定义 设 $n$ 维向量 ${\mathit{\alpha }}_1,{\mathit{\alpha }}_2,\cdots ,{\mathit{\alpha }}_r$ 是向量空间 $V$（$V\subseteq {\mathbb{R}}^n$）的一个基，若 ${\mathit{\alpha }}_1,{\mathit{\alpha }}_2,\cdots ,{\mathit{\alpha }}_r$ 两两正交，则称 ${\mathit{\alpha }}_1,{\mathit{\alpha }}_2,\cdots ,{\mathit{\alpha }}_r$ 是 $V$ 的一个正交基。

定义 设 $n$ 维向量 ${\mathit{\xi }}_1,{\mathit{\xi }}_2,\cdots ,{\mathit{\xi }}_r$ 是向量空间 $V$（$V\subseteq {\mathbb{R}}^n$）的一个基，若 ${\mathit{\xi }}_1,{\mathit{\xi }}_2,\cdots ,{\mathit{\xi }}_r$ 两两正交，且都是单位向量，则称 ${\mathit{\xi }}_1,{\mathit{\xi }}_2,\cdots ,{\mathit{\xi }}_r$ 是 $V$ 的一个标准正交基（也称单位正交基）。

例如，

$${\mathit{\xi }}_1=\left(\begin{array}{c}\frac{1}{\sqrt{2}}\\ \frac{1}{\sqrt{2}}\\ 0\\ 0\end{array}\right){\mathit{\xi }}_2=\left(\begin{array}{c}\frac{1}{\sqrt{2}}\\ -\frac{1}{\sqrt{2}}\\ 0\\ 0\end{array}\right){\mathit{\xi }}_3=\left(\begin{array}{c}0\\ 0\\ \frac{1}{\sqrt{2}}\\ \frac{1}{\sqrt{2}}\end{array}\right){\mathit{\xi }}_4=\left(\begin{array}{c}0\\ 0\\ \frac{1}{\sqrt{2}}\\ -\frac{1}{\sqrt{2}}\end{array}\right)$$

就是 ${\mathbb{R}}^4$ 的一个标准正交基。

对于 $V$ 中的任意向量 $\mathit{a}$，其能由 $V$ 的一个标准正交基 ${\mathit{\xi }}_1,{\mathit{\xi }}_2,\cdots ,{\mathit{\xi }}_r$ 线性表示。设表示式为

$$\mathit{a}={\lambda }_1{\mathit{\xi }}_1+{\lambda }_2{\mathit{\xi }}_2+\cdots +{\lambda }_r{\mathit{\xi }}_r$$

为求其中的系数 ${\lambda }_i$，用 ${\mathit{\xi }}_i^{\mathrm{T}}$ 左乘上式，有

$${\mathit{\xi }}_i^{\mathrm{T}}\mathit{a}={\lambda }_i{\mathit{\xi }}_i^{\mathrm{T}}{\mathit{\xi }}_i={\lambda }_i$$

即

$${\lambda }_i=(\mathit{a},{\mathit{\xi }}_i)$$

此即向量在标准正交基下的坐标的计算公式。利用这个公式能方便地求得向量的坐标，因此，我们在给向量空间取基时常常取标准正交基。

标准正交化

设 ${\mathit{a}}_1,{\mathit{a}}_2,\cdots ,{\mathit{a}}_r$ 是向量空间 $V$ 的一个基，要求 $V$ 的一个标准正交基。相当于要求一个单位向量组成的正交向量组 ${\mathit{\xi }}_1,{\mathit{\xi }}_2,\cdots ,{\mathit{\xi }}_r$，使之与向量组 $A$ 等价。

考虑把这件事分成两步：先不要求是单位向量，求一个正交向量组 ${\mathit{b}}_1,{\mathit{b}}_2,\cdots ,{\mathit{b}}_r$，然后再将其单位化为标准正交基。

我们现考虑最简单的情况：二维平面。我们取定第一个向量 ${\mathit{a}}_1$ 不变，即 ${\mathit{b}}_1={\mathit{a}}_1$，接着考虑如何调整 ${\mathit{a}}_2$。既然要让 ${\mathit{a}}_2$ 调整后的结果垂直与 ${\mathit{a}}_1$，我们将其分解成垂直于 ${\mathit{a}}_1$ 的和平行于 ${\mathit{a}}_1$ 的两个分量。很明显，我们需要的 ${\mathit{b}}_2$ 就是垂直于 ${\mathit{a}}_1$ 的那个分量。垂直的那个分量不太好求，但是平行的那个分量好求。平行的那个分量我们记作 ${\mathit{a}}_2^{\prime }$，就有

$${\mathit{b}}_2={\mathit{a}}_2-{\mathit{a}}_2^{\prime }$$

${\mathit{a}}_2^{\prime }$ 其实就是 ${\mathit{a}}_2$ 在 ${\mathit{b}}_1$ 上的投影。根据高中的知识，我们有

$$\begin{array}{rl}{\mathit{a}}_2^{\prime }& =\parallel {\mathit{a}}_2\parallel \cdot \cos ⟨{\mathit{a}}_2,{\mathit{b}}_1⟩\cdot \frac{{\mathit{b}}_1}{\parallel {\mathit{b}}_1\parallel }\\ & =\parallel {\mathit{a}}_2\parallel \cdot \frac{({\mathit{a}}_2,{\mathit{b}}_1)}{\parallel {\mathit{a}}_2\parallel \cdot \parallel {\mathit{b}}_1\parallel }\cdot \frac{{\mathit{b}}_1}{\parallel {\mathit{b}}_1\parallel }\\ & =\frac{({\mathit{a}}_2,{\mathit{b}}_1)}{({\mathit{b}}_1,{\mathit{b}}_1)}{\mathit{b}}_1\end{array}$$

所以有

$$\begin{array}{rl}{\mathit{b}}_1& ={\mathit{a}}_1\\ {\mathit{b}}_2& ={\mathit{a}}_2-\frac{({\mathit{a}}_2,{\mathit{b}}_1)}{({\mathit{b}}_1,{\mathit{b}}_1)}{\mathit{b}}_1\end{array}$$

将其推广到三维。

既然 ${\mathit{b}}_3$ 要同时与 ${\mathit{b}}_1$ 和 ${\mathit{b}}_2$ 垂直，那就是要垂直于这两个向量组成的平面。所以 ${\mathit{b}}_3$ 就应该是 ${\mathit{a}}_3$ 减去其在 ${\mathit{b}}_1,{\mathit{b}}_2$ 所在平面的投影 ${\mathit{a}}_3^{\prime }$。不过求向量对平面的投影比较麻烦，我们注意到，${\mathit{a}}_3^{\prime }$ 其实就是 ${\mathit{a}}_3$ 分别对 ${\mathit{b}}_1$ 和 ${\mathit{b}}_2$ 投影后再相加。

所以我们有

$${\mathit{b}}_3={\mathit{a}}_3-\frac{({\mathit{a}}_3,{\mathit{b}}_1)}{({\mathit{b}}_1,{\mathit{b}}_1)}{\mathit{b}}_1-\frac{({\mathit{a}}_3,{\mathit{b}}_2)}{({\mathit{b}}_2,{\mathit{b}}_2)}{\mathit{b}}_2$$

由此继续推广，我们有：

$$\begin{array}{rl}{\mathit{b}}_1& ={\mathit{a}}_1\\ {\mathit{b}}_2& ={\mathit{a}}_2-\frac{({\mathit{a}}_2,{\mathit{b}}_1)}{({\mathit{b}}_1,{\mathit{b}}_1)}{\mathit{b}}_1\\ {\mathit{b}}_3& ={\mathit{a}}_3-\frac{({\mathit{a}}_3,{\mathit{b}}_1)}{({\mathit{b}}_1,{\mathit{b}}_1)}{\mathit{b}}_1-\frac{({\mathit{a}}_3,{\mathit{b}}_2)}{({\mathit{b}}_2,{\mathit{b}}_2)}{\mathit{b}}_2\\ & \cdots \\ {\mathit{b}}_r& ={\mathit{a}}_3-\frac{({\mathit{a}}_r,{\mathit{b}}_1)}{({\mathit{b}}_1,{\mathit{b}}_1)}{\mathit{b}}_1-\cdots -\frac{({\mathit{a}}_r,{\mathit{b}}_{r-1})}{({\mathit{b}}_{r-1},{\mathit{b}}_{r-1})}{\mathit{b}}_{r-1}\end{array}$$

然后将其单位化，即

$${\mathit{\xi }}_1=\frac{1}{\parallel {\mathit{b}}_1\parallel },{\mathit{\xi }}_2=\frac{1}{\parallel {\mathit{b}}_2\parallel },\cdots ,{\mathit{\xi }}_r=\frac{1}{\parallel {\mathit{b}}_r\parallel },$$

写成更简洁的形式，就是

$$\begin{array}{c}{\mathit{b}}_i={\mathit{a}}_i-\sum _{j=1}^{i-1}\frac{({\mathit{a}}_i,{\mathit{b}}_j)}{({\mathit{b}}_j,{\mathit{b}}_j)}{\mathit{b}}_j\\ {\mathit{\xi }}_i=\frac{{\mathit{b}}_i}{\parallel {\mathit{b}}_i\parallel }\end{array}$$

上述从线性无关向量组 ${\mathit{a}}_1,{\mathit{a}}_2,\cdots ,{\mathit{a}}_r$ 导出正交向量组 ${\mathit{b}}_1,{\mathit{b}}_2,\cdots ,{\mathit{b}}_r$ 的过程称为施密特正交化。它不仅满足 ${\mathit{b}}_1,{\mathit{b}}_2,\cdots ,{\mathit{b}}_r$ 与 ${\mathit{a}}_1,{\mathit{a}}_2,\cdots ,{\mathit{a}}_r$ 等价，还满足：对任意的 $k\in [1,r]$，向量组 ${\mathit{b}}_1,{\mathit{b}}_2,\cdots ,{\mathit{b}}_k$ 与 ${\mathit{a}}_1,{\mathit{a}}_2,\cdots ,{\mathit{a}}_k$ 等价。

例 2

设

$${\mathit{a}}_1=\left(\begin{array}{c}1\\ 2\\ -1\end{array}\right),{\mathit{a}}_2=\left(\begin{array}{c}-1\\ 3\\ 1\end{array}\right),{\mathit{a}}_3=\left(\begin{array}{c}4\\ -1\\ 0\end{array}\right),$$

将这组向量正交单位化。

首先正交化：

$$\begin{array}{rl}{\mathit{b}}_1& ={\mathit{a}}_1=\left(\begin{array}{c}1\\ 2\\ -1\end{array}\right)\\ {\mathit{b}}_2& ={\mathit{a}}_2-\frac{({\mathit{a}}_2,{\mathit{b}}_1)}{({\mathit{b}}_1,{\mathit{b}}_1)}{\mathit{b}}_1=\left(\begin{array}{c}-1\\ 3\\ 1\end{array}\right)-\frac{4}{6}\left(\begin{array}{c}1\\ 2\\ -1\end{array}\right)=\frac{5}{3}\left(\begin{array}{c}-1\\ 1\\ 1\end{array}\right)\\ {\mathit{b}}_3& ={\mathit{a}}_3-\frac{({\mathit{a}}_3,{\mathit{b}}_1)}{({\mathit{b}}_1,{\mathit{b}}_1)}{\mathit{b}}_1-\frac{({\mathit{a}}_3,{\mathit{b}}_2)}{({\mathit{b}}_2,{\mathit{b}}_2)}{\mathit{b}}_1=\left(\begin{array}{c}4\\ -1\\ 0\end{array}\right)-\frac{1}{3}\left(\begin{array}{c}1\\ 2\\ -1\end{array}\right)-\frac{5}{3}\left(\begin{array}{c}-1\\ 1\\ 1\end{array}\right)=2\left(\begin{array}{c}1\\ 0\\ 1\end{array}\right)\end{array}$$

然后单位化：

$$\begin{array}{rl}{\mathit{e}}_1& =\frac{{\mathit{b}}_1}{\parallel {\mathit{b}}_1\parallel }=\frac{1}{\sqrt{6}}\left(\begin{array}{c}1\\ 2\\ -1\end{array}\right)\\ {\mathit{e}}_2& =\frac{{\mathit{b}}_2}{\parallel {\mathit{b}}_2\parallel }=\frac{1}{\sqrt{3}}\left(\begin{array}{c}-1\\ 1\\ 1\end{array}\right)\\ {\mathit{e}}_3& =\frac{{\mathit{b}}_3}{\parallel {\mathit{b}}_3\parallel }=\frac{1}{\sqrt{2}}\left(\begin{array}{c}1\\ 0\\ 1\end{array}\right)\end{array}$$

正交矩阵

定义

若方阵的列向量都是单位向量且两两正交，该方阵称为正交矩阵。

例如，取上面提到过的

$${\mathit{\xi }}_1=\left(\begin{array}{c}\frac{1}{\sqrt{2}}\\ \frac{1}{\sqrt{2}}\\ 0\\ 0\end{array}\right){\mathit{\xi }}_2=\left(\begin{array}{c}\frac{1}{\sqrt{2}}\\ -\frac{1}{\sqrt{2}}\\ 0\\ 0\end{array}\right){\mathit{\xi }}_3=\left(\begin{array}{c}0\\ 0\\ \frac{1}{\sqrt{2}}\\ \frac{1}{\sqrt{2}}\end{array}\right){\mathit{\xi }}_4=\left(\begin{array}{c}0\\ 0\\ \frac{1}{\sqrt{2}}\\ -\frac{1}{\sqrt{2}}\end{array}\right)$$

拼起来，有

$$\begin{array}{rl}\mathit{Q}& =({\mathit{\xi }}_1,{\mathit{\xi }}_2,{\mathit{\xi }}_3,{\mathit{\xi }}_4)\\ & =\left(\begin{array}{cccc}\frac{1}{\sqrt{2}}& \frac{1}{\sqrt{2}}& 0& 0\\ \frac{1}{\sqrt{2}}& -\frac{1}{\sqrt{2}}& 0& 0\\ 0& 0& \frac{1}{\sqrt{2}}& \frac{1}{\sqrt{2}}\\ 0& 0& \frac{1}{\sqrt{2}}& -\frac{1}{\sqrt{2}}\end{array}\right)\end{array}$$

这就是一个正交矩阵。

WARNING

正交矩阵不仅要正交，还要求列向量都是单位向量！

性质

设有两两正交的三维单位向量 ${\mathit{\xi }}_1,{\mathit{\xi }}_2,{\mathit{\xi }}_3$，有 $\mathit{Q}=({\mathit{\xi }}_1,{\mathit{\xi }}_2,{\mathit{\xi }}_3)$，我们考虑 ${\mathit{Q}}^{\mathrm{T}}\mathit{Q}$。其结果应该是一个三阶方阵：

$${\mathit{Q}}^{\mathrm{T}}\mathit{Q}=\left(\begin{array}{c}{\mathit{\xi }}_1^{\mathrm{T}}\\ {\mathit{\xi }}_2^{\mathrm{T}}\\ {\mathit{\xi }}_3^{\mathrm{T}}\end{array}\right)({\mathit{\xi }}_1,{\mathit{\xi }}_2,{\mathit{\xi }}_3)=\left(\begin{array}{ccc}{q}_{11}& q_{12}& q_{13}\\ q_{21}& q_{22}& q_{23}\\ q_{31}& q_{32}& q_{33}\end{array}\right)$$

根据矩阵乘法法则，$q_{11}$ 是左取第一行，右取第一列，也就是说

$$q_{11}={\mathit{\xi }}_1^{\mathrm{T}}{\mathit{\xi }}_1=({\mathit{\xi }}_1,{\mathit{\xi }}_1)$$

$q_{12}$ 是左取第一行，右取第二列

$$q_{12}={\mathit{\xi }}_1^{\mathrm{T}}{\mathit{\xi }}_2=({\mathit{\xi }}_1,{\mathit{\xi }}_2)$$

同理可得

$${\mathit{Q}}^{\mathrm{T}}\mathit{Q}=\left(\begin{array}{ccc}({\mathit{\xi }}_1,{\mathit{\xi }}_1)& ({\mathit{\xi }}_1,{\mathit{\xi }}_2)& ({\mathit{\xi }}_1,{\mathit{\xi }}_3)\\ ({\mathit{\xi }}_2,{\mathit{\xi }}_1)& ({\mathit{\xi }}_2,{\mathit{\xi }}_2)& ({\mathit{\xi }}_2,{\mathit{\xi }}_3)\\ ({\mathit{\xi }}_3,{\mathit{\xi }}_1)& ({\mathit{\xi }}_3,{\mathit{\xi }}_2)& ({\mathit{\xi }}_3,{\mathit{\xi }}_3)\end{array}\right)$$

由于 ${\mathit{\xi }}_1,{\mathit{\xi }}_2,{\mathit{\xi }}_3$ 两两正交，因此它们两两作内积均得 $0$；又因为三者均为单位向量，因此

$$({\mathit{\xi }}_1,{\mathit{\xi }}_1)=({\mathit{\xi }}_2,{\mathit{\xi }}_2)=({\mathit{\xi }}_3,{\mathit{\xi }}_3)=1$$

故有

$${\mathit{Q}}^{\mathrm{T}}\mathit{Q}=\left(\begin{array}{ccc}1& 0& 0\\ 0& 1& 0\\ 0& 0& 1\end{array}\right)=\mathit{E}$$

据此推广，对于任意的正交矩阵 $\mathit{Q}$，我们有

性质 1

$$\begin{array}{c}{\mathit{Q}}^{-1}={\mathit{Q}}^{\mathrm{T}}\\ {\mathit{Q}}^{\mathrm{T}}\mathit{Q}=\mathit{Q}{\mathit{Q}}^{\mathrm{T}}=\mathit{E}\end{array}$$

此性质是充要的。可以用来判定正交矩阵。

性质 2 若 $\mathit{A},\mathit{B}$ 是同阶正交矩阵，则 $\mathit{A}\mathit{B}$ 也是正交矩阵。

证明

$$(\mathit{A}\mathit{B}{)}^{\mathrm{T}}(\mathit{A}\mathit{B})={\mathit{B}}^{\mathrm{T}}{\mathit{A}}^{\mathrm{T}}\mathit{A}\mathit{B}={\mathit{B}}^{\mathrm{T}}\mathit{B}=\mathit{E}$$

性质 3 若 $\mathit{P}$ 为正交阵，且有列向量 $\mathit{x},\mathit{y}$ 满足 $\mathit{y}=\mathit{P}\mathit{x}$，则 $\parallel \mathit{x}\parallel =\parallel \mathit{y}\parallel$。

证明

$$\parallel \mathit{y}\parallel =\sqrt{{\mathit{y}}^{\mathrm{T}}\mathit{y}}=\sqrt{{\mathit{x}}^{\mathrm{T}}{\mathit{P}}^{\mathrm{T}}\mathit{P}\mathit{x}}=\sqrt{{\mathit{x}}^{\mathrm{T}}\mathit{x}}=\parallel \mathit{x}\parallel$$