矩阵运算

矩阵的逆

若存在两个 $n \times n$ 的矩阵 $A$ 和 $C$ 使 $$AC = I \quad 且 \quad CA = I$$ 这里 $I = I_n$ 是 $n \times n$ 单位矩阵。则称 $A$是 可逆的。称 $C$ 是 $A$ 的逆阵。记为 $A^{-1}$，有 $$AA^{-1}=I \quad 且 \quad A^{-1}A=I$$

不可逆的矩阵有时称为奇异矩阵，而可逆矩阵也就称为非奇异矩阵。

定理4 设 $A = \begin{bmatrix} a & b \\ c & d \end{bmatrix}$，若 $ad-bc \neq 0$，则 $A$ 可逆且 $$ A^{-1}=\frac{1}{ad-bc}\begin{bmatrix}d & -b \\ -c & a\end{bmatrix} $$ 若 $ad-bc=0$，则 $A$ 不可逆。

定理5 若 $A$ 是可逆 $n \times n$ 矩阵，则对每一 $\mathbb{R}^n$中的 $b$，方程 $Ax=b$ 有唯一解 $x=A^{-1}b$。

定理6

若 $A$ 是可逆矩阵，则 $A^{-1}$也可逆且$(A^{-1})^{-1}=A$。

若 $A$ 和 $B$ 都是 $n \times n$ 可逆矩阵，$AB$ 也可逆，且其逆是 $A$ 和 $B$ 的逆矩阵按相反顺序的乘积，即 $(AB)^{-1}=B^{-1}A^{-1}$。

若 $A$ 可逆，则 $A^T$ 也可逆，且其逆是 $A^{-1}$ 的转置，即 $(A^T)^{-1}=(A^{-1})^T$。

单位矩阵进行一次行变换，就得到了 初等矩阵 $E$。若对 $m \times n$ 矩阵 $A$ 进行某种初等行变换，所得矩阵可写成 $EA$，其中 $E$ 是 $m \times n$ 矩阵，是由 $I_m$ 进行同一行变换所得。每个初等矩阵 $E$ 是可逆的，$E$ 的逆是一个同类型的初等矩阵，它把 $E$ 变回了 $I$。

定理7 $m \times n$ 矩阵 $A$ 是可逆的，当且仅当 $A$ 行等价于 $I_n$，这时，把 $A$ 变为 $I_n$ 的一系列初等行变换同时把 $I_n$ 变成 $A^{-1}$。



In [2]:

    
A=[0 1 2; 1 0 3; 4 -3 8]
inv(A)









    Out[2]:





3×3 Array{Float64,2}:
 -4.5   7.0  -1.5
 -2.0   4.0  -1.0
  1.5  -2.0   0.5

定理8 （可逆矩阵定理）设 $A$ 是 $n \times n$ 矩阵，则下列命题是等价的，即对某一特定的 $A$，它们同时为真或同时为假。

$A$ 是可逆矩阵。

$A$ 等价于 $n \times n$ 单位矩阵。

$A$ 有 n 个主元位置。

方程 $Ax=0$ 仅有平凡解。

$A$ 的各列线性无关。

线性变换 $x \mapsto Ax$ 是一对一的。

对 $\mathbb{R}^n$ 中任意 $b$，方程 $Ax=b$ 至少有一个解。

$A$ 的各列生成 $\mathbb{R}^n$。

线性变换 $x \mapsto Ax$ 把 $\mathbb{R}^n$ 映射到 $\mathbb{R}^n$ 上。

存在 $n \times n$ 矩阵 $C$ 使 $CA=I$。

存在 $n \times n$ 矩阵 $D$ 使 $AD=I$。

$A^T$ 是可逆矩阵。

可逆线性变换

对于线性变换 $T:\mathbb{R}^n \rightarrow \mathbb{R}^n$，若存在函数 $S:\mathbb{R}^n \rightarrow \mathbb{R}^n$ 使得$$ 对所有 \mathbb{R}^n 中的 x, S(T(x))=x \tag{1} $$ $$ 对所有 \mathbb{R}^n 中的 x, T(S(x))=x \tag{2}$$，则称 $T$ 是可逆的，称 $S$ 是 $T$ 的逆，写成 $T^{-1}$。

定理9 设 $T:\mathbb{R}^n \rightarrow \mathbb{R}^n$ 为线性变换，$A$ 为 $T$ 的标准矩阵。则 $T$ 可逆当且仅当 $A$ 是可逆矩阵。这时由 $S(x)=A^{-1}x$ 定义的线性变换 $S$ 是满足（1）和（2）的惟一函数。

分块矩阵

定理10 ($AB$的列行展开) 若 $A$ 是 $m \times n$ 矩阵，$B$ 是 $n \times p$ 矩阵，则 $$AB=[col_1(A) \ col_2(A) \ \cdots \ col_n(A)] \begin{bmatrix}row_1(B) \\ row_2(B) \\ \vdots \\ row_n(B)\end{bmatrix} \\ =col_1(A)row_1(B)+ \cdots +col_n(A)row_n(B) $$

矩阵因式分解

LU 分解

设 $A$ 是 $m \times n$ 矩阵，可以行化简为阶梯形而不必行对换，则 $A$ 可写成形式 $A=LU$，$L$是 $m \times m$ 下三角矩阵，主对角线元素全是1，$U$是$A$的一个等价的$m \times n$ 阶梯形矩阵。矩阵 $L$ 是可逆的，称为单位下三角矩阵。当 $A=LU$时，方程 $Ax=b$ 可写成 $L(Ux)=b$，把 $Ux$ 写成 $y$，可以由解下面一对方程来求解 $x$: $$Ly=b \\ Ux=y$$



In [5]:

    
A=[3 -7 -2 2 -9; 0 -2 -1 2 -4; 0 0 -1 1 5; 0 0 0 -1 1]
using RowEchelon
rref(A)









    Out[5]:





4×5 Array{Float64,2}:
 1.0  0.0  0.0  0.0   3.0
 0.0  1.0  0.0  0.0   4.0
 0.0  0.0  1.0  0.0  -6.0
 0.0  0.0  0.0  1.0  -1.0



In [9]:

    
A=[2 4 -1 5 -2; -4 -5 3 -8 1; 2 -5 -4 1 8; -6 0 7 -3 1]
L,U = lu(A, Val{false})
L









    Out[9]:





4×4 Array{Float64,2}:
  1.0   0.0  0.0  0.0
 -2.0   1.0  0.0  0.0
  1.0  -3.0  1.0  0.0
 -3.0   4.0  0.0  1.0



In [10]:

    
U









    Out[10]:





4×5 Array{Float64,2}:
 2.0  4.0  -1.0  5.0  -2.0
 0.0  3.0   1.0  2.0  -3.0
 0.0  0.0   0.0  2.0   1.0
 0.0  0.0   0.0  4.0   7.0

计算机图形学中的应用

http://devnotes.org/WebGL/Fundamentals/

$R^n$的子空间

子空间对加法和标量乘法运算是封闭的。

矩阵 $A$ 的列空间是 $A$ 的各列的线性组合的集合，记作 $Col \ A$。

矩阵 $A$ 的零空间是齐次方程 $Ax=0$ 的所有解的集合，记为 $Nul \ A$。

定理12 $m \times n$矩阵$A$的零空间是$\mathbb{R}^n$的子空间。等价地，$n$个未知数的$m$个齐次线性方程的解的全体是$\mathbb{R}^n$的子空间。

定理13 矩阵 $A$ 的主元列构成空间的基。

矩阵 $A$ 的秩($rank \ A$)是 $A$ 的列空间的维数，也就是主元列的个数。

定理14 （秩定理）如果一矩阵$A$有$n$列，则 $rank \ A + dim \ Nul \ A = n$

定理15 （基定理）设 $H$ 是 $\mathbb{R}^n$ 的 $p$ 维子空间，$H$ 中的任何恰好由 $p$ 个成员组成的线性无关集构成 $H$ 的一个基。并且，$H$ 中任何生成 $H$ 的 $p$ 个向量集也构成 $H$ 的一个基。

定理（可逆矩阵定理（续））设 $A$ 是一个 $n \times n$矩阵，则下面的每个命题与 $A$ 是可逆矩阵的命题等价：

$A$ 的列向量构成 $\mathbb{R}^n$的一个基。

$Col \ A = \mathbb{R}^n$

$dim \ Col \ A = n$

$rank \ A = n$

$Nul \ A = \{0\}$

$dim \ Nul \ A = 0$