線性代數
|
![{\displaystyle \mathbf {A} ={\begin{bmatrix}1&2\\3&4\end{bmatrix}}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/a31efc33ac33577d719a3ccd162a9bf21e4847ea)
|
向量 · 向量空間 · 基底 · 行列式 · 矩陣
|
|
|
在線性代數中,一個矩陣
的列秩是列向量生成的最大線性無關組的向量個數。類似地,行秩是矩陣
的線性無關的橫行的個數。矩陣的列秩和行秩總是相等的,因此它們可以簡單地稱作矩陣
的秩(Rank)。通常表示為
,
或
。
可替代定義[編輯]
用行列式定義[編輯]
設
為
矩陣。若
至少有一個
階非零子式,而其所有
階子式全為零,即矩陣的最高階非零子式的階數為r。則稱
為
的秩。
用向量組的秩定義[編輯]
對於
維線性空間
中的一個向量組
,若
中的
個向量線性無關,且若
,
,
中
個向量都線性相關,則稱
為
的極大線性無關組,
為
的秩。可以證明
的秩等於向量組
生成的子空間的維數。
矩陣
的列秩定義為
的列向量組的秩,也即矩陣的列空間的維數。類似地,矩陣的行秩定義為
的行向量組的秩,即矩陣的行空間的維數。
用線性映射定義[編輯]
考慮線性映射:
![{\displaystyle f_{A}:F^{n}\to F^{m}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/fd5b1e7f87aa3a43b6785c218c7110431c311a1e)
![{\displaystyle x\mapsto A\cdot x}](https://wikimedia.org/api/rest_v1/media/math/render/svg/c031533284b437ddc79541c82368bc447cd7030e)
對於每個矩陣
,
都是一個線性映射,同時,對每個
的
線性映射
,都存在矩陣
使得
。也就是說,映射
![{\displaystyle \Phi :{\mathcal {M}}_{n}(\mathbb {K} )\to {\mathcal {L}}(F^{n},F^{m})}](https://wikimedia.org/api/rest_v1/media/math/render/svg/aadd1492af213aa5f42366e9b79a6c86d3c5f092)
![{\displaystyle A\mapsto f_{A}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/1e99582c5c9ed95aace3247c36a783e0a1f36b0a)
是一個同構映射。所以一個矩陣
的秩還可定義為
的像的維度(像與核的討論參見線性映射)。矩陣
稱為
的轉換矩陣。這個定義的好處是適用於任何線性映射而不需要指定矩陣,因為每個線性映射有且僅有一個矩陣與其對應。秩還可以定義為
的核的維度;秩-零化度定理聲稱它等於
的像的維度。
行秩列秩相等性[編輯]
矩陣的行秩與列秩相等,是線性代數基本定理的重要組成部分。其基本證明思路是,矩陣可以看作線性映射的轉換矩陣,列秩為像空間的維度,行秩為非零原像空間的維度,因此列秩與行秩相等,即像空間的維度與非零原像空間的維度相等(這裏的非零原像空間是指約去了零空間後的商空間:原像空間)。這從矩陣的奇異值分解就可以看出來。
給出這一結果的兩種證明. 第一個證明是簡短的,僅用到向量的線性組合的基本性質. 第二個證明利用了正交性[1]. 第一個證明利用了列空間的基, 第二個證明利用了行向量空間的基. 第一個證明適用於定義在純量域上的矩陣,第二個證明適用於內積空間。二者都適用於實或復的歐氏空間,也都易於修改去證明當A是線性轉換的情形.
證明一[編輯]
令
是一個
的矩陣,其列秩為
. 因此矩陣
的列空間的維度是
. 令
是
的列空間的一組基,構成
矩陣
的列向量
,並使得
的每個列向量是
的
個列向量的線性組合. 由矩陣乘法的定義,存在一個
矩陣
, 使得
. (
的
元素是
與
的第
個行向量的點積.)
現在,由於
,
的每個行向量是
的行向量的線性組合,這意味着
的行向量空間被包含於
的行向量空間之中. 因此
的行秩 ≤
的行秩. 但
僅有
行, 所以
的行秩 ≤
=
的列秩. 這就證明了
的行秩 ≤
的列秩.
把上述證明過程中的「行」與「列」交換,利用對偶性質同樣可證
的列秩 ≤
的行秩。更簡單的方法是考慮
的轉置矩陣
,則
的列秩 =
的行秩 ≤
的列秩 =
的行秩. 這證明了
的列秩等於
的行秩. 證畢.
證明二[編輯]
令
是
矩陣,其行秩是
. 因此
的行向量空間的維度是
,設
是
的行向量空間的一組基. 如果把這組基當作原像列向量看待,則向量集
是線性獨立的。 這是因為對一組純量系數
,如果:
![{\displaystyle c_{1}Ax_{1}+c_{2}Ax_{2}+\cdots c_{r}Ax_{r}=A(c_{1}x_{1}+c_{2}x_{2}+\cdots +c_{r}x_{r})=Av=0,}](https://wikimedia.org/api/rest_v1/media/math/render/svg/0a39254c6762d87e7569df50276d26c5f53b7984)
其中
. 則可以推出有兩個事實: (a)
是
行向量空間的線性組合, 即
屬於
的行向量空間;(b) 由於
= 0,
正交於
的所有行向量,從而正交於
的行向量空間的所有向量. 事實(a)與(b)結合起來,則
正交於自身,這意味着
= 0. 由
的定義:
![{\displaystyle c_{1}x_{1}+c_{2}x_{2}+\ldots ,c_{r}x_{r}=0.}](https://wikimedia.org/api/rest_v1/media/math/render/svg/7ce3aa8d53dbe246be0bf186370cdb7d0da5ad02)
再由
是
的行向量空間的一組線性獨立的基,可知
.
因而是線性獨立的.
是
的列空間中的向量. 因此
是
的列空間中
個線性獨立的向量. 所以
的列向量空間的維數(
的列秩)必然不小於
. 這證明了
的行秩r ≤
的列秩. 把這一結果應用於
的轉置矩陣可以得到:
的列秩 =
的行秩 ≤
列秩 =
的行秩. 這證明了
的列秩等於
的行秩,證畢.
最後, 還可以證明rk(A) = rk(A*), 其中A*是A的共軛轉置或稱施密特轉置. 當A的元素都是實數, 這一結果變為rk(A) = rk(AT). 然而對於複系數矩陣,rk(A) = rk(A*)並不等價於行秩等於列秩, 需要用到上述兩個證明.
證明三[編輯]
令A是一個m×n矩陣. 定義rk(A)為A的列秩,A*為A的共軛轉置或稱施密特轉置. 首先可知A*Ax = 0當且僅當Ax = 0.
- A*Ax = 0 ⇒ x*A*Ax = 0 ⇒ (Ax)*(Ax) = 0 ⇒ ‖Ax‖2 = 0 ⇒ Ax = 0,
其中‖·‖是歐氏範數. 這說明A的零空間與A*A的零空間相同. 由秩-零化度定理, 可得rk(A) = rk(A*A). A*A的每一個列向量是A*的列向量的線性組合. 所以A*A的列空間是A*的列空間的子空間. 從而rk(A*A) ≤ rk(A*). 即: rk(A) = rk(A*A) ≤ rk(A*). 應用這一結果於A*可獲得不等式: 由於(A*)* = A, 可寫作rk(A*) ≤ rk((A*)*) = rk(A). 這證明了rk(A) = rk(A*). 證畢.
我們假定A是在域F上的m × n矩陣並描述了上述線性映射。
- m × n矩陣的秩不大於m且不大於n的一個非負整數,表示為 rk(A) ≤ min(m, n)。有儘可能大的秩的矩陣被稱為有滿秩;類似的,否則矩陣是秩不足(或稱為「欠秩」)的。
- 只有零矩陣有秩0
- A的秩最大為min(m,n)
- f是單射,當且僅當A有秩n(在這種情況下,我們稱A有「列滿秩」)。
- f是滿射,當且僅當A有秩m(在這種情況下,我們稱A有「行滿秩」)。
- 在方塊矩陣A (就是m = n)的情況下,則A是可逆的,當且僅當A有秩n(也就是A有滿秩)。
- 如果B是任何n × k矩陣,則AB的秩最大為A的秩和B的秩的小者。即:
![{\displaystyle \operatorname {rank} (AB)\leq \min(\operatorname {rank} \ A,\operatorname {rank} \ B).}](https://wikimedia.org/api/rest_v1/media/math/render/svg/2eaf61722c7cfdebfb461d7a03916afa1ffce4f5)
- 推廣到若干個矩陣的情況,就是:
![{\displaystyle \operatorname {rank} (A_{1}A_{2}\cdots A_{n})\leq \min(\operatorname {rank} \ A_{1},\operatorname {rank} \ A_{2},\cdots ,\operatorname {rank} \ A_{n}).}](https://wikimedia.org/api/rest_v1/media/math/render/svg/19283132cd66620367eca72e239b581e9859318d)
- 證明:
- 考慮矩陣的秩的線性映射的定義,令A、B對應的線性映射分別為f和g,則AB表示複合映射f·g,它的象Im f·g是g的像Im g在映射f作用下的象。然而Im g是整個空間的一部分,因此它在映射f作用下的象也是整個空間在映射f作用下的象的一部分。也就是說映射Im f·g是Im f的一部分。對矩陣就是:秩(AB)≤秩(A)。
- 對於另一個不等式:秩(AB)≤秩(B),考慮Im g的一組基:(e1,e2,...,en),容易證明(f(e1),f(e2),...,f(en))生成了空間Im f·g,於是Im f·g的維度小於等於Im g的維度。對矩陣就是:秩(AB)≤秩(B)。
- 因此有:秩(AB)≤min(秩(A),秩(B))。若干個矩陣的情況證明類似。
- 作為"<"情況的一個例子,考慮積
![{\displaystyle {\begin{bmatrix}0&0\\1&0\\\end{bmatrix}}{\begin{bmatrix}0&0\\0&1\\\end{bmatrix}}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/1da2939a2cece7905486de6414e84ab3da27eacc)
- 兩個因子都有秩1,而這個積有秩0。
- 可以看出,等號成立當且僅當其中一個矩陣(比如說A)對應的線性映射不減少空間的維度,即是單射,這時A是滿秩的。於是有以下性質:
- 如果B是秩n的n × k矩陣,則
![{\displaystyle \operatorname {rank} (AB)=\operatorname {rank} (A).}](https://wikimedia.org/api/rest_v1/media/math/render/svg/39618d30511be9ee80e73199960fef136c8dc298)
- 如果C是秩m的l × m矩陣,則
![{\displaystyle \operatorname {rank} (CA)=\operatorname {rank} (A).}](https://wikimedia.org/api/rest_v1/media/math/render/svg/9f506908e3a615e7f963c8e7c2a5a2c11e48a654)
- A的秩等於r,當且僅當存在一個可逆m × m矩陣X和一個可逆的n × n矩陣Y使得
![{\displaystyle XAY={\begin{bmatrix}I_{r}&0\\0&0\\\end{bmatrix}}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/e98f22bf53429c74e80c81f2246fbf9e0cac2d4f)
- 這裏的Ir指示r × r 單位矩陣。
- 證明可以通過高斯消元法構造性地給出。
- 西爾維斯特不等式: 如果 A 是一個 m × n 的矩陣且 B 是 n × k 的, 則
[i]
- 這是下一個不等式的特例.
- 這個不等式是由Frobenius提出的: 如果 AB, ABC 和 BC 有定義, 則
[ii]
- 子加性:當矩陣
和
的形狀相同時,有
. 因此,一個秩為k的矩陣能夠表示成k個秩為1的矩陣的加和,但不能是k-1個或更少。
- 矩陣的秩加上矩陣的零化度等於矩陣的縱列數(這就是秩-零化度定理)。
- 如果 A 是實數上的矩陣,那麼 A 的秩和它對應格拉姆矩陣的秩相等。於是,對於實矩陣
.
- 該性質可以通過它們的零空間證明. 格拉姆矩陣的零空間由所有滿足
的向量
組成。如果上式成立, 那麼下式也成立:
,於是,
,即
與
的零空間相同.[2]
- 如果 A 是複數上的矩陣且 A* 表示 A 的共軛轉置(i.e., A 的伴隨), 則
![{\displaystyle \operatorname {rank} (A)=\operatorname {rank} ({\overline {A}})=\operatorname {rank} (A^{T})=\operatorname {rank} (A^{*})=\operatorname {rank} (A^{*}A).}](https://wikimedia.org/api/rest_v1/media/math/render/svg/236a219497ee5d6ab44f3ffac206fda7ed6f1a10)
向量組的線性相關性[編輯]
將
個
維列向量排列成
的矩陣A,這個對應矩陣的秩即為原向量組的秩。
原向量組線性相關的充分必要條件為:
![{\displaystyle r(A)<m}](https://wikimedia.org/api/rest_v1/media/math/render/svg/494cc64254cfbd26dadab5842fdc28792e37bdf0)
如果
![{\displaystyle r(A)=m}](https://wikimedia.org/api/rest_v1/media/math/render/svg/ddee4b1fcdac9c480cae518e15e0bccd74b5c385)
則向量組線性無關。另外,不存在
![{\displaystyle r(A)>m}](https://wikimedia.org/api/rest_v1/media/math/render/svg/bcfece81e58a790d48b785d3dcca949996b35501)
特殊的,若向量的個數
大於向量的維數
,則根據:
![{\displaystyle r(A)\leq n<m}](https://wikimedia.org/api/rest_v1/media/math/render/svg/40a0efbd3e0b294cdb1d5238cfbf81b152e0f1de)
這個向量組必然線性相關。
計算矩陣A的秩的最容易的方式是高斯消元法,即利用矩陣的初等轉換生成一個行階梯形矩陣,由於矩陣的初等轉換不改變矩陣的秩,因此A的行階梯形矩陣有同A一樣的秩。經過初等轉換的矩陣的非零行的數目就是原矩陣的秩。
例如考慮4 × 4矩陣
![{\displaystyle A={\begin{bmatrix}2&4&1&3\\-1&-2&1&0\\0&0&2&2\\3&6&2&5\\\end{bmatrix}}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/6c38af5feaa43c16b46075dc58883491ec95f487)
我們看到第2縱列是第1縱列的兩倍,而第4縱列等於第1和第3縱列的總和。第1和第3縱列是線性無關的,所以A的秩是2。這可以用高斯算法驗證。它生成下列A的行階梯形矩陣:
![{\displaystyle A={\begin{bmatrix}1&2&0&1\\0&0&1&1\\0&0&0&0\\0&0&0&0\\\end{bmatrix}}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/ca723a109d8f33eeae29b281de241ddb77e90400)
它有兩個非零的橫行。
在應用在計算機上的浮點數的時候,基本高斯消去(LU分解)可能是不穩定的,應當使用秩啟示(revealing)分解。一個有效的替代者是奇異值分解(SVD),但還有更少代價的選擇,比如有支點(pivoting)的QR分解,它也比高斯消去在數值上更強壯。秩的數值判定要求對一個值比如來自SVD的一個奇異值是否為零的依據,實際選擇依賴於矩陣和應用二者。
計算矩陣的秩的一個有用應用是計算線性方程組解的數目。如果系數矩陣的秩等於增廣矩陣的秩,則該方程組有解。在這種情況下,如果它的秩等於方程的數目那麼該方程組有唯一的一個精確解。如果增廣矩陣的秩大於系數矩陣的秩,則方程組是不一致(Inconsistent)的。
在控制論中,矩陣的秩可以用來確定線性系統是否為可控制的,或可觀察的。
- ^ 證明: 對不等式
使用秩-零化度定理
- ^ 證明:商空間之間的映射C: ker(ABC) / ker(BC) → ker(AB) / ker(B)有定義且為單射。因此我們得到了關於核維數關係的不等式dim ker(ABC)-dim ker(BC) ≤ dim ker(AB) - dim ker(B), 利用秩-零化度定理即可得到結論(即dim ker(ABC)-dim ker(BC)=rank(BC)-rank(ABC), 右邊同理)。或者也可以這麼證明:假如M是一個子線性空間,A是線性映射,那麼dim(A(M)) ≤ dim(M) (*); 記映射BC(注意先進行C映射後進行B映射)的像為im(BC), 映射B的像為im(B), 則im(BC)⊆im(B), 取im(B)中im(BC)的正交補餘(不一定要正交,構成直和關係即可,這裏取正交補餘只是為了方便)記為D, 則dim(D) = rk(B) – rk(BC); 而由線性映射的規律知im(AB) = AD + im(ABC), 但不一定再是直和,即dim(AD) + rk(ABC) ≥ rk(AB), 利用不等式(*)可得dim(D)[=rk(B) – rk(BC)] + rk(ABC) ≥ rk(AB), 從而得證。
參考文獻[編輯]
- ^ Mackiw, G. (1995). A Note on the Equality of the Column and Row Rank of a Matrix. Mathematics Magazine, Vol. 68, No. 4
- ^ Mirsky, Leonid. An introduction to linear algebra. Dover Publications. 1955. ISBN 978-0-486-66434-7.
- Horn, Roger A. and Johnson, Charles R. Matrix Analysis. Cambridge University Press, 1985. ISBN 978-0-521-38632-6.
- Kaw, Autar K. Two Chapters from the book Introduction to Matrix Algebra: 1. Vectors [1] and System of Equations [2]