雅乐网

计算机技术博客

算法 » 数学 » 线性代数 » 线性代数知识梳理2——矩阵

线性代数知识梳理2——矩阵

矩阵(Matrix),就是矩形的阵列,实际上是一个二维的表格。m*n个数按一定的顺序排成的m行n列的矩形数表,称为m*n矩阵,简称矩阵。

矩阵通常用大写字母表示:

$$A =  \begin{pmatrix} a_{11} & a_{12} & \cdots & a_{1n} \\ a_{21} & a_{22} & \cdots & a_{2n} \\ \vdots& \vdots&\ddots &\vdots \\ a_{m1} & a_{m2} & \cdots & a_{mn} \\ \end{pmatrix} $$

横的各排称为矩阵的行,竖的各排称为矩阵的列。

\(a_{ij}\)代表矩阵的第i行j列的元素。

当m=n时,矩阵又叫做n阶方阵。

当矩阵中只有对角元素且均为1时,叫做单位矩阵,用E表示

$$ E =  \begin{pmatrix} 1 & 0 & \cdots & 0 \\ 0 & 1 & \cdots & 0 \\ \vdots& \vdots&\ddots &\vdots \\ 0 & 0 & \cdots & 1 \\ \end{pmatrix} $$

矩阵的基本运算

首先定义矩阵的相等:同型且对应元素相等的矩阵相等。同型是指行数和列数相等。

1. 矩阵加(减)法

矩阵的加法和减法十分简单直观,就是对应位置元素的加和减。必须同型的矩阵才能加减。
$$ \begin{pmatrix} a_{11} & a_{12} & \cdots & a_{1n} \\ a_{21} & a_{22} & \cdots & a_{2n} \\ \vdots& \vdots&\ddots &\vdots \\ a_{m1} & a_{m2} & \cdots & a_{mn} \\ \end{pmatrix} + \begin{pmatrix} b_{11} & b_{12} & \cdots & b_{1n} \\ b_{21} & b_{22} & \cdots & b_{2n} \\ \vdots& \vdots&\ddots &\vdots \\ b_{m1} & b_{m2} & \cdots & b_{mn} \\ \end{pmatrix} $$
$$ = \begin{pmatrix} a_{11}+b_{11} & a_{12}+b_{12} & \cdots & a_{1n}+b_{1n} \\ a_{21}+b_{21} & a_{22}+b_{22} & \cdots & a_{2n}+b_{2n} \\ \vdots& \vdots&\ddots &\vdots \\ a_{m1}+b_{m1} & a_{m2}+b_{m2} & \cdots & a_{mn}+b_{mn} \\ \end{pmatrix} $$

矩阵加法满足交换律和结合律,即

A+B = B + A

(A + B) + C = A + (B + C)

2. 数乘

数字k与矩阵A的数乘:kA的每个元素是A的相应元素与k的乘积。

$$ k \begin{pmatrix} a_{11} & a_{12} & \cdots & a_{1n} \\ a_{21} & a_{22} & \cdots & a_{2n} \\ \vdots& \vdots&\ddots &\vdots \\ a_{m1} & a_{m2} & \cdots & a_{mn} \\ \end{pmatrix} =
\begin{pmatrix} ka_{11} & ka_{12} & \cdots & ka_{1n} \\ ka_{21} & ka_{22} & \cdots & ka_{2n} \\ \vdots& \vdots&\ddots &\vdots \\ ka_{m1} & ka_{m2} & \cdots & ka_{mn} \\ \end{pmatrix}$$

数乘对加法满足分配律

k (A+B) = kA + kB

(m+n)A = mA + nA

矩阵的加法和数乘统称为矩阵的线性运算。

3. 转置

矩阵的转置就是原来的一行最为转置的一列,原来的一列成为转置后的一行。定义:m×n矩阵A的转置是一个n×m的矩阵,记为A,其中的第 i 个向量是原矩阵A的第 i 个向量;或者说,转置矩阵AT第i行第j列的元素是原矩阵A第j行第i列的元素。

$$ A = \begin{pmatrix} a_{11} & a_{12} & \cdots & a_{1n} \\ a_{21} & a_{22} & \cdots & a_{2n} \\ \vdots& \vdots&\ddots &\vdots \\ a_{m1} & a_{m1} & \cdots & a_{mn} \\ \end{pmatrix}  , A^{T} =
\begin{pmatrix} a_{11} & a_{12} & \cdots & a_{n1} \\ a_{12} & a_{22} & \cdots & a_{n2} \\ \vdots& \vdots&\ddots &\vdots \\ a_{1m} & a_{2m} & \cdots & a_{nm} \\ \end{pmatrix}$$

转置的运算律:

1. $$(A^{T})^T = A$$

2. 转置对加法的分配律

$$(A+B)^T = A^T + B^T $$

3. 转置和数乘的结合律

(kA)^T = k(A^T)

矩阵乘法

矩阵乘法的定义

矩阵乘法是矩阵最重要的运算,它的定义如下:

若A为m*n矩阵,B为n*p矩阵,则他们的乘积C = AB是一个m*p矩阵。乘积矩阵的元素值由下面公式计算:

$$c_{ij} = \sum_{k=1}^{n}a_{ik}b_{kj} = a_{i1}b_{1j} + a_{i2}b_{2j} + … + a_{in}b_{nj}$$

scrn20151025184946

两个矩阵相乘,必须满足第一个的列数等于第二个矩阵的行数。

从方程组的观点解释矩阵乘法

当我们有两个方程组

$$\left\{
\begin{array}{c}
y_1 = a_{11}x_1 + a_{12}x_2 + a_{13}x_3\\
y_2 = a_{21}x_1 + a_{22}x_2 + a_{23}x_3
\end{array}
\right. $$

$$\left\{
\begin{array}{c}
x_1 = b_{11}t_1 + b_{12}t_2 \\
x_2 = b_{21}t_1 + b_{22}t_2 \\
x_3 = b_{31}t_1 + b_{32}t_2
\end{array}
\right. $$

通过第二个方程组,可以把 x 用 t 表示出来,然后代入第一个方程组,可以得到 y 和 t 的方程组。按照这个思路可以得到:

$$\left\{
\begin{array}{c}
y_1 = (a_{11}b_{11} + a_{12}b_{21} + a_{13}b_{31})t_1 + (a_{11}b_{12} + a_{12}b_{22} + a_{13}b_{32})t_2 \\
y_2 = (a_{21}b_{11} + a_{22}b_{21} + a_{23}b_{31})t_1 + (a_{21}b_{12} + a_{22}b_{22} + a_{23}b_{32})t_2
\end{array}
\right. $$

把前两个和最后一个的系数矩阵写出来

$$ \begin{pmatrix} a_{11} & a_{12} & a_{13} \\ a_{21} & a_{22} & a_{23} \\ \end{pmatrix} \begin{pmatrix} b_{11} & b_{12} \\ b_{21} & b_{22} \\ b_{31} & b_{32} \\ \end{pmatrix}
= \begin{pmatrix} a_{11}b_{11} + a_{12}b_{21} + a_{13}b_{31}& a_{11}b_{12} + a_{12}b_{22} + a_{13}b_{32} \\ a_{21}b_{11} + a_{22}b_{21} + a_{23}b_{31}& a_{21}b_{12} + a_{22}b_{22} + a_{23}b_{32} \\ \end{pmatrix} $$

可以看出,矩阵乘法相当于两个线性方程的复合,也可以理解为两种线性变换的复合。

矩阵乘法的性质

和数不同的地方

1. 矩阵乘法不满足交换律

$$AB \neq BA $$

2. 不满足消去律,即

AB = AC 时,不一定能得到 B=C,实际上,A可逆时才可消去。可以类比数中 0*a = 0*b ,但a, b不一定相等。

3. 有非零元

AB = 0 ,  不能推出A=0或B=0

满足的运算律

1. 结合律

(AB)C = A(BC)

2. 分配律(左分配律和右分配律)

A(B + C) = AB + AC

(B+C)A = BA + CA

3. 和数乘的类似结合律的性质

kAB = AkB = ABk

4. 转置对乘积的倒置的分配律

$$(AB)^T = B^T A^T$$

$$(ABC)^T = C^T B^T A^T$$

方阵和行列式

n阶方阵

$$A = \begin{pmatrix} a_{11} & a_{12} & \cdots & a_{1n} \\ a_{21} & a_{22} & \cdots & a_{2n} \\ \vdots& \vdots&\ddots &\vdots \\ a_{n1} & a_{n2} & \cdots & a_{nn} \\ \end{pmatrix} $$

的行列式为

$$det A = |A| = \begin{vmatrix} a_{11} & a_{12} & \cdots & a_{1n} \\ a_{21} & a_{22} & \cdots & a_{2n} \\ \vdots& \vdots&\ddots &\vdots \\ a_{n1} & a_{n2} & \cdots & a_{nn} \\ \end{vmatrix}$$

性质:

1. 数乘后的行列式

$$ |kA| = k^n |A| $$

2. 矩阵乘积的行列式 (A,B)均为n阶方阵

$$|AB| = |A| |B|$$

伴随矩阵

$$A = \begin{pmatrix} a_{11} & a_{12} & \cdots & a_{1n} \\ a_{21} & a_{22} & \cdots & a_{2n} \\ \vdots& \vdots&\ddots &\vdots \\ a_{n1} & a_{n2} & \cdots & a_{nn} \\ \end{pmatrix} , A_{ij}是a_{ij}的代数余子式, $$


$$ A^* = \begin{pmatrix} A_{11} & A_{12} & \cdots & A_{1n} \\ A_{21} & A_{22} & \cdots & A_{2n} \\ \vdots& \vdots&\ddots &\vdots \\ A_{n1} & A_{n2} & \cdots & A_{nn} \\ \end{pmatrix}$$

\(A^*\)称为A的伴随矩阵。

二阶矩阵的伴随矩阵

$$A = \begin{pmatrix} a & b \\ c & d \\ \end{pmatrix} $$

$$A^* = \begin{pmatrix} d & -b \\ -c & a \\ \end{pmatrix}$$

伴随矩阵的公式

$$AA^* = A^* A = |A|E $$

初等变换

矩阵的初等行变换和初等列变换合称为矩阵的初等变换。初等变换是线性代数中的重要工具。下面以行变换为例,列变换完全类似。

三种行初等变换

1. 交换矩阵中第 i 行和第 j 行。记作 \(r_i \Leftrightarrow r_j\)

2. 用非零常数k乘第i行。记作 \( k r_i\)

3. 将第 j 行的 k 倍加到第 i 行。记作 \(r_i + k r_j\)

矩阵的等价

矩阵 A 经过有限次初等变换得到矩阵B,则称矩阵 A 与 B 等价,记作 \(A \cong  B\)

矩阵的等价和数的相等类似,具有自反性、对称性、传递性。即:

$$ A \cong A $$
$$ A \cong B \Rightarrow B \cong A $$
$$ A \cong B, B \cong C \Rightarrow A \cong C $$

定理:矩阵必有等价标准形

$$A \cong \begin{pmatrix}
1 & 0 & \cdots & 0 & 0& \cdots& 0\\
0 & 1 & \cdots & 0 & 0& \cdots& 0\\
\vdots & \vdots & \ddots & \vdots & \vdots & \cdots& \vdots\\
0 & 0 & \cdots & 1 & 0&\cdots & 0\\
0 & 0 & \cdots & 0 & 0&\cdots & 0\\
\vdots & \vdots & \cdots & \vdots & \vdots & \cdots& \vdots\\
0 & 0 & \cdots & 0 & 0&\cdots & 0\\
\end{pmatrix} $$

等价标准型中,1的个数反应了矩阵的某种特征(矩阵的秩)。

初等矩阵

对单位阵进行一次初等变换后得到的矩阵称为初等矩阵。三种不同的初等变换对应了三种初等矩阵:

$$E(i, j) = \begin{pmatrix}
1 & & & & & & \\
& \ddots & & & & & \\
& & 0 & \cdots & 1 & & \\
& & \vdots & \ddots & \vdots& & \\
& & 1 & \cdots & 0 & & \\
& & & & & \ddots& \\
& & & & & & 1\\
\end{pmatrix} $$

 

$$E(i(k))) = \begin{pmatrix}
1 & & & & \\
& \ddots & & &\\
& & k & & \\
& & & \ddots & \\
& & & & 1 \\
\end{pmatrix} ,
E(i, j(k)) = \begin{pmatrix}
1 & & & & & & \\
& \ddots & & & & & \\
& & 1 & \cdots & k & & \\
& & & \ddots & \vdots& & \\
& & & & 1 & & \\
& & & & & \ddots& \\
& & & & & & 1\\
\end{pmatrix} $$

 

初等矩阵的性质:

1. 初等矩阵的转置是同类型的初等矩阵。

2. 初等矩阵都是满秩的。(矩阵的秩见下)

初等矩阵和初等变换的关系

初等行变换相当于乘初等矩阵;初等列变换相当于右乘初等矩阵。

矩阵的秩

秩的定义

k阶子式的定义:从m*n矩阵中任意抽取k行k列,位于这些行、列交叉处的元素按原来的次序构成的k阶行列式叫做A的一个k阶子式。一般的,m*n的矩阵共有 \(C_m^k C_n^k\)个k阶子式。

矩阵的秩的定义:矩阵A 的所有不等于零的子式的最高阶数称为矩阵A 的秩。记作r(A) 。零矩阵的秩规定为0 。

矩阵的秩的性质:

1. 矩阵的秩不超过其行数,也不超过其列数

$$r(A_{m*n}) \le min(m, n)$$

2. A的转置的秩等于A的秩。

3. k不为0时, r(kA) = r(A)

4. 若A有一个r阶子式不等于0,则 \(r(A) \ge r\)

若A的所有r阶子式全为0,则 \(r(A) < r\)

满秩矩阵

对于n 阶方阵A

若秩为n,即 |A| 不为0,此时称A为满秩矩阵。

若秩小于n, 即|A| = 0 ,此时称A是降秩矩阵。

根据初等变换不改变矩阵的秩,满秩矩阵的等价标准型一定是单位矩阵E 。也就是A可以经过有限次初等变换得到E, E经过反过程就可以得到A 。由此我们有

$$A = P_1 P_2 P_3 … P_n E$$

定理:可逆矩阵A可以表示为有限个初等矩阵的乘积。即

$$A = P_1 P_2 P_3 … P_n$$

用初等变换求矩阵的秩

定理:初等变换不改变矩阵的秩。

推论:左乘或右乘一个满秩矩阵不改变矩阵的秩。即

A为m*n矩阵,P为m阶满秩方阵,Q为n阶满秩方阵。

$$r(A) = r(PA) = r(AQ) = r(PAQ)$$

矩阵秩的不等式

1. 矩阵乘积的秩不大于单个矩阵的秩

$$r(AB) \le min(r(A), r(B) )$$

2.  \(r(A_{m*n}B_{n*k}) \ge r(A) + r(B) – n \)

3. \(r(A + B) \le r(A) + r(B) \)

矩阵的逆

矩阵的运算有加法减法和乘法。我们不禁想:有没有类似除法的运算呢?类比数字中

$$ a * a^{-1} = 1$$

矩阵乘法中单位阵E相当于数字中的1,对于矩阵A,我们也想找到\(A^{-1}\),使

$$A A^{-1} = A^{-1}A = E $$

逆矩阵的定义

对n阶方阵A,若有n阶矩阵B,使

$$AB = BA = E$$
则称B为A的逆矩阵,称A为可逆矩阵。

实际上,AB = BA = E ,等式中,我们只需要一个AB=E或者BA=E ,就可以得到相同结论。

不是所有的矩阵都有逆矩阵。但有逆矩阵的矩阵的逆矩阵是唯一的。

对于逆矩阵,我们需要解决两个问题:如何判断是否可逆?如何求逆矩阵?

判断矩阵是否可逆

在伴随矩阵部分,我们有一个公式

$$AA^* = A^* A = |A|E $$

当|A|不为0时,等式乘以 1 / |A| 就可以得到

$$A  \frac{A^*}{|A|} = E $$

根据逆矩阵的定义,有

$$A^{-1} = \frac{A^*}{|A|}$$

定理: A可逆的充要条件是 \(|A| \neq 0\)

\(|A| \neq 0\) ,也就是A满秩。

总结一下,对n阶方阵A ,下面几个说法是等价的:

$$|A| \neq 0 \Leftrightarrow A满秩 \Leftrightarrow A可逆  \Leftrightarrow A是非奇异矩阵 \Leftrightarrow A \cong E_n $$

$$|A| = 0 \Leftrightarrow A降秩 \Leftrightarrow A不可逆  \Leftrightarrow A是奇异矩阵$$

矩阵逆的性质

1. $$(A^{-1})^{-1} = A$$

2. $$(A^{-1})^{T} = (A^{T})^{-1}$$

3. k不为0时

$$(kA)^{-1} = \frac{1}{k} A^{-1}$$

4. $$|A^{-1}| = |A|^{-1}$$

5. $$(AB)^{-1} = B^{-1} A^{-1}$$

求矩阵的逆的方法

1. 用伴随矩阵的公式

$$A^{-1} = \frac{A^*}{|A|}$$

2. 用初等变换求矩阵的逆

A可逆时,A的逆也可逆,即\(A^{-1}\)满秩,设

$$A^{-1} = P_1 P_2 … P_s$$

$$P_1 P_2 … P_s A = E$$

$$P_1 P_2 … P_s E = A^{-1}$$

第二个式子就是我们假设的,只不过乘了E

观察上面两个式子,可以发现,对A作初等行变换得到E ,对E作相同的变换就得到了\(A^{-1}\)

scrn20151025211611

3. 用定义求。如果我们有AB=E ,那么我们就找到了A的逆矩阵B 。一般用于抽象的矩阵中。

分块矩阵

参考资料

1. 矩阵 – 维基百科,自由的百科全书

2. 线性代数_中国大学MOOC(慕课)

3. 《线性代数》(第三版) 华中科技大学数学系 高等教育出版社

如果文章对你有帮助,欢迎点赞或打赏(金额不限)。你的打赏将全部用于支付网站服务器费用和提高网站文章质量,谢谢支持。

版权声明:

本文由 原创,商业转载请联系作者获得授权。
非商业转载请注明作者 雅乐网 ,并附带本文链接:
http://www.yalewoo.com/2015/10/25/linear_algebra_2_matrix/

上一篇:

下一篇:

我要评论

*

验证码*: 6 + 9 =