【线性代数】【二】2.8 向量正交与正交补空间

文章目录

前言
一、向量正交
二、正交子空间
三、正交补空间
四、正交补空间的性质
总结

前言

本文将介绍向量的正交，以及正交补空间的定义。从而进一步加深对向量空间的理解

一、向量正交

称向量 $\bm{x,y}\in R^n$ 相互正交，当且仅当 $\bm{x}^T\bm{y}=0$ 成立。易得零向量与任意向量正交。

若两正交向量均为非零向量，则这两个向量必然线性无关。反之，线性相关的两非零向量必不可能正交

$\bm{x}^Tk\bm{x}=k\sum_i x_i^2>0$

二、正交子空间

在介绍正交补空间的概念之前，我们先回到齐次线性方程组的求解上 $\bm{Ax}=\bm{0}$ 。先将矩阵写成行向量的形式：

$\mathbf{Ax} = \left( \begin{array}{ccc} \bm{a}_1^T\\ \bm{a}_2^T\\ \bm{a}_3^T\\ \end{array} \right)\bm{x}=\bm{0}$

一般取向量时默认为列向量，因此加上转置表示行向量。上述方程表明，解向量 $\bm{x}$ 与所有矩阵 $\bm{A}$ 的行向量均正交。我们再进一步引申，对矩阵 $\bm{A}$ 的行空间中的任意向量，解向量 $\bm{x}$ 均与之正交。我们简单验证一下这个结论：

$\because$ 矩阵 $\bm{A}$ 的行空间中的任意行向量 $\bm{a}^T$ 均可由 $\bm{a}_1^T,\bm{a}_2^T,\bm{a}_3^T$ 线性表示.
$\therefore \bm{a}^T\bm{x}=k_1\bm{a}_1^T\bm{x}+k_2\bm{a}_2^T\bm{x}+k_3\bm{a}_3^T\bm{x}=0$

类似的，我们也可以说，对任意解空间（即零空间）中的向量，均与矩阵 $\bm{A}$ 的行向量正交。这样的两个任意取出一对向量，都相互正交的空间，我们称之互为正交子空间。

通过上述说明过程，可知要验证两个空间是否互为正交子空间，只需要验证两个空间各自的基是否正交即可，因为任意空间中的向量的正交性均可由基证明，而基若不正交，则已经说明不满足正交子空间的定义。

三、正交补空间

构造一对正交子空间并不难，只要任意找到两组互相正交的向量组，然后用这俩组向量组各自张成一个空间即可。因此，对于一个给的的向量空间，可能可以找到若干个不同的正交子空间。例如对于由向量组 $[1, 1, 0]$ 张成的一维空间，其正交子空间的基可以为 $[0,0,1],[1,-1,0],[1,-1,1],\ldots$

但是，对于给定向量组，是否总找到一个维度最大的正交子空间呢？是可以的。假设我们有一个秩为 $m$ 的 $n$ 维向量组，我们现在来找它的维度最大的正交子空间。

用到笔记2.4中零空间相关的性质，我们知道以该组向量做行向量的矩阵 $\bm{A}$ ，其对应的零空间的维度=列数-秩（ $n - m$ ）。所以，该零空间就是它的一个正交子空间。

同样在笔记2.4中，我们说明了任意该齐次方程组的解均在零空间中，即除了零空间外，找不出任何向量与给的向量组所有向量正交。可见，这个零空间就是我们要找的给的向量组对应的维数最大的正交子空间，我们称之为正交补空间。

四、正交补空间的性质

1）直接观察得到的性质是，互为正交补空间的两个子空间的维数之和，等于其中向量的维数，即 $n - m + m = n$ 。这个由上述推理过程，结合列数-秩=零空间维数可以推导出来。

2） $n$ 维向量构成的一对正交补空间之和 $\bm{A}+\bm{B}$ 为 $n$ 维空间。这里，两个空间之和是指，任意在两个空间中取一出一对向量，求和得到的向量所构成的空间。（容易验证这些向量满足加法数乘的封闭性）我们简单验证一下这个结论：

假设 $\bm{c}$ 为任意一个 $n$ 维向量。
$\because$ 正交补空间 $\bm{A，B}$ 中的基向量均相互正交。
假设他们各自的一组基向量合并组成的向量组的秩为 $m$
若 $m < n$ ,由于 $r (A) + r (B) = n$ ，即合并向量组中向量数目为 $n$
$\therefore$ 合并向量组中存在线性相关的向量。
又 $\because$ 各自子空间中基向量线性无关
$\therefore$ 存在某子空间中的向量与另一个子空间中的基向量线性相关
即某子空间的基向量属于其正交子空间
又 $\because$ 基向量为非零向量，
$\therefore$ 其自身不可能与自身正交。
因此， $m = n$

总结

本文介绍了向量正交的概念，并由此拓展出正交子空间以及正交补空间的概念。这些概念均与之前学习过的零空间等息息相关。