本記事では、重要度の高い行列のランクの性質(定理)を解説していきます。
本記事の前提知識や線形写像とランクを関連は「行列を線形写像として捉えて、その性質を分析する」で解説しているので、参考にしてください。
p \times n 行列 A に対し、 \mathrm{rank}\, A \leq min(p, n)
Aの像の次元\dim \mathrm{Im}\, Aは、Aの定義域の空間R^nの次元\dim R^n = nとAの値域の空間R^pの次元\dim R^p = pのうち、小さい方以下となる。
【証明】
p \times n行列Aは、定義域R^nから終域R^pへの線形写像の表現行列である。
最初にp \leq nのケースを考える。
これは、終域R^pの次元が定義域R^nのそれ以下であることを意味する。つまり、
\dim R^p = p \leq \dim R^n = n
ここで、\mathrm{Im}\, Aは、Aの終域R^pの部分空間なので、2つの空間の次元の大小関係に関して
\dim \mathrm{Im}\, A \leq \dim R^p
以上より、
\begin{align*}
&\dim \mathrm{Im}\, A \leq \dim R^p \leq \dim R^n \\
&\dim \mathrm{Im}\, A \leq p \leq n
\end{align*}
また、行列のランクは、その行列の像の次元と定義されるから
\mathrm{rank} A = \dim \mathrm{Im}\, A
以上より、
\mathrm{rank} A \leq p \leq n
これで、Aのランクは、p \leq nならば、p以下になることが確かめられた。
次に、n < pのケースを考える。
まず、行列Aのn個の列ベクトルを\mathbf{a_1}, \mathbf{a_2}, \cdots, \mathbf{a_n}とおけば、
\mathrm{Im}\, A = \mathrm{Span}[\mathbf{a_1}, \mathbf{a_2}, \cdots, \mathbf{a_n}]
つまり、Aの像\mathrm{Im}\, Aとは、Aのn個の列ベクトル\mathbf{a_1}, \mathbf{a_2}, \cdots, \mathbf{a_n}のスパンである。
ここで当然ながら、スパンを構成するn個のベクトルのうち、線形独立であるものはn個以下である。一方、スパンの次元は、スパンを構成する線形独立なベクトルの最大個数であるので、
\dim \mathrm{Span}[\mathbf{a_1}, \mathbf{a_2}, \cdots, \mathbf{a_n}] \leq n
となり、仮定n < pと合わせて
\mathrm{rank} A = \dim \mathrm{Im}\, A =\dim \mathrm{Span}[\mathbf{a_1}, \mathbf{a_2}, \cdots, \mathbf{a_n}] \leq n < p
すなわち、
\mathrm{rank} A \leq n < p
これで、Aのランクは、n < pならば、n以下になることが確かめられた。
\mathrm{rank} A = \mathrm{rank} A^\perp
【証明】
ランクの定義より、
\mathrm{rank} A = \dim \mathrm{Im}\, A,\:\: \mathrm{rank} A^\top = \dim \mathrm{Im}\, (A^\top)
また、次元定理より、
\begin{align*} \dim \mathrm{Im}\, A &= \dim \mathbb{R}^n – \dim \mathrm{Ker}\, A \\ &= \dim \mathbb{R}^n – \dim \mathrm{Im}\, (A^\top)^\perp \\ &= \dim \mathrm{Im}\, (A^\top) \end{align*}
1行目から2行目の変形は、\dim \mathrm{Ker}\, A = \dim \mathrm{Im}\, (A^\top)^\perpより成り立つ。2行目から3行目の変形は、\mathrm{Im}\, (A^\top)^\perpが\mathbb{R}^nの部分空間であり、また、\mathrm{Im}\, (A^\top)の直交補空間であることから成り立つ。
以上より、\dim \mathrm{Im}\, A = \dim \mathrm{Im}\, A^\topであり、すなわち、\mathrm{rank} A = \mathrm{rank} A^\top
\mathrm{rank}\, (A^\top A) = \mathrm{rank}\, A
p \times n 行列Aに対して、A^\top Aは、n次対称行列であり、R^n \to R^nの線形変換の表現行列である。よって次元定理から、以下の関係式が導かれる。
\mathrm{rank}\, A^\top A = \dim R^n – \dim \mathrm{Ker}\, A^\top A
一方、 p \times n行列AはR^n \to R^pの線形写像の表現行列であり、次元定理を適用すれば、以下の関係式が導かれる。
\mathrm{rank}\, A = \dim R^n – \dim \mathrm{Ker}\, A
以上より、\mathrm{rank}(A^\top A) = \mathrm{rank}\, Aを示すことと\dim \mathrm{Ker}\, A^\top A = \dim \mathrm{Ker}\, Aを示すことは同値なので、\dim \mathrm{Ker}\, A^\top A = \dim \mathrm{Ker}\, Aを示せればよいことになる。\\
さらに、\dim \mathrm{Ker}\, A^\top A = \dim \mathrm{Ker}\, A \Leftrightarrow \mathrm{Ker}\, A^\top A = \mathrm{Ker}\, Aなので、結局のところ、\mathrm{Ker}\, A^\top A = \mathrm{Ker}\, Aを示せばよいことになる。
【証明】
まずは、\mathrm{Ker} A^\top A \subset \mathrm{Ker} Aを示す。
任意の\mathbf{x_0} \in \mathrm{Ker} A^\top Aを選ぶと、A^\top A\mathbf{x_0} = \mathbf{0}が成り立つ。ここで、A^\top A\mathbf{x_0}と\mathbf{x_0}の内積をとると、以下の関係式を得る。
<\mathrm{Im} A^\top A\mathbf{x_0}, \mathbf{x_0}> = 0
なぜなら、A^\top A\mathbf{x_0} = \mathbf{0}より、\mathbf{x_0}がどのようなベクトルであったとしても、ゼロベクトル\mathbf{0}との内積は必ず0になるから。
この関係式を変形する。
\begin{align*} <A^\top A\mathbf{x_0}, \mathbf{x_0}> = 0 \\ \Leftrightarrow (A^\top A\mathbf{x_0})^\top \mathbf{x_0} = 0\\ \Leftrightarrow \mathbf{x_{0}}^\top A^\top A \mathbf{x_0} = 0\\ \Leftrightarrow (A\mathbf{x_0})^\top A \mathbf{x_0} = 0 \\ \Leftrightarrow < A\mathbf{x_0}, A\mathbf{x_0}> = 0 \\ \Leftrightarrow ||A\mathbf{x_0}||^2 = 0 \\ \Leftrightarrow A\mathbf{x_0} = \mathbf{0} \end{align*}
ここから\mathbf{x_0} \in \mathrm{Ker} Aを得る。以上より、\mathrm{Ker} A^\top A \subset \mathrm{Ker} A
次に、\mathrm{Ker} A^\top A \supset \mathrm{Ker} Aを示す。
任意の\mathbf{x_0} \in \mathrm{Ker} Aを取ると、A\mathbf{x_0} = \mathbf{0}である。この両辺に左からA^\topをかければ、A^\top A\mathbf{x_0} = A^\top\mathbf{0}を得る。すなわち、
A^\top A\mathbf{x_0} = \mathbf{0}
この関係式は\mathbf{x_0} \in \mathrm{Ker} A^\top Aを意味する。以上より、\mathrm{Ker} A^\top A \supset \mathrm{Ker} A
よって、\mathrm{Ker} A^\top A = \mathrm{Ker} A。ここから、\mathrm{rank} A^\top A = \mathrm{rank} A
参考文献・教材
計量経済学のための数学
統計学のための数学入門30講
線形代数の理論とPythonによる実践