本記事では、重要度の高い行列のランクの性質（定理)を解説していきます。
本記事の前提知識や線形写像とランクを関連は「行列を線形写像として捉えて、その性質を分析する」で解説しているので、参考にしてください。
\( p \times n\) 行列\( A\) に対し、\( \mathrm{rank}\, A \leq min(p, n)\)
\(A\)の像の次元\(\dim \mathrm{Im}\, A\)は、\(A\)の定義域の空間\(R^n\)の次元\(\dim R^n = n\)と\(A\)の値域の空間\(R^p\)の次元\(\dim R^p = p\)のうち、小さい方以下となる。
【証明】
\(p \times n\)行列\(A\)は、定義域\(R^n\)から終域\(R^p\)への線形写像の表現行列である。
最初に\(p \leq n\)のケースを考える。
これは、終域\(R^p\)の次元が定義域\(R^n\)のそれ以下であることを意味する。つまり、
\[\dim R^p = p \leq \dim R^n = n\]
ここで、\(\mathrm{Im}\, A\)は、\(A\)の終域\(R^p\)の部分空間なので、2つの空間の次元の大小関係に関して
\[\dim \mathrm{Im}\, A \leq \dim R^p \]
以上より、
\begin{align*}
&\dim \mathrm{Im}\, A \leq \dim R^p \leq \dim R^n \\
&\dim \mathrm{Im}\, A \leq p \leq n
\end{align*}
また、行列のランクは、その行列の像の次元と定義されるから
\[\mathrm{rank} A = \dim \mathrm{Im}\, A\]
以上より、
\[\mathrm{rank} A \leq p \leq n\]
これで、\(A\)のランクは、\(p \leq n\)ならば、\(p\)以下になることが確かめられた。
次に、\(n < p\)のケースを考える。
まず、行列\(A\)のn個の列ベクトルを\(\mathbf{a_1}, \mathbf{a_2}, \cdots, \mathbf{a_n}\)とおけば、
\[\mathrm{Im}\, A = \mathrm{Span}[\mathbf{a_1}, \mathbf{a_2}, \cdots, \mathbf{a_n}]\]
つまり、\(A\)の像\(\mathrm{Im}\, A\)とは、\(A\)のn個の列ベクトル\(\mathbf{a_1}, \mathbf{a_2}, \cdots, \mathbf{a_n}\)のスパンである。
ここで当然ながら、スパンを構成するn個のベクトルのうち、線形独立であるものはn個以下である。一方、スパンの次元は、スパンを構成する線形独立なベクトルの最大個数であるので、
\[\dim \mathrm{Span}[\mathbf{a_1}, \mathbf{a_2}, \cdots, \mathbf{a_n}] \leq n\]
となり、仮定\(n < p\)と合わせて
\[\mathrm{rank} A = \dim \mathrm{Im}\, A =\dim \mathrm{Span}[\mathbf{a_1}, \mathbf{a_2}, \cdots, \mathbf{a_n}] \leq n < p\]
すなわち、
\[\mathrm{rank} A \leq n < p\]
これで、\(A\)のランクは、\(n < p\)ならば、\(n\)以下になることが確かめられた。
\( \mathrm{rank} A = \mathrm{rank} A^\perp\)
【証明】
ランクの定義より、
\[
\mathrm{rank} A = \dim \mathrm{Im}\, A,\:\: \mathrm{rank} A^\top = \dim \mathrm{Im}\, (A^\top)
\]
また、次元定理より、
\begin{align*}
\dim \mathrm{Im}\, A &= \dim \mathbb{R}^n – \dim \mathrm{Ker}\, A \\
&= \dim \mathbb{R}^n – \dim \mathrm{Im}\, (A^\top)^\perp \\
&= \dim \mathrm{Im}\, (A^\top)
\end{align*}
1行目から2行目の変形は、\(\dim \mathrm{Ker}\, A = \dim \mathrm{Im}\, (A^\top)^\perp\)より成り立つ。2行目から3行目の変形は、\(\mathrm{Im}\, (A^\top)^\perp\)が\(\mathbb{R}^n\)の部分空間であり、また、\(\mathrm{Im}\, (A^\top)\)の直交補空間であることから成り立つ。
以上より、\(\dim \mathrm{Im}\, A = \dim \mathrm{Im}\, A^\top\)であり、すなわち、\(\mathrm{rank} A = \mathrm{rank} A^\top\)
\( \mathrm{rank}\, (A^\top A) = \mathrm{rank}\, A\)
\( p \times n\) 行列\(A\)に対して、\(A^\top A\)は、\(n\)次対称行列であり、\(R^n \to R^n\)の線形変換の表現行列である。よって次元定理から、以下の関係式が導かれる。
\[\mathrm{rank}\, A^\top A = \dim R^n – \dim \mathrm{Ker}\, A^\top A\]
一方、\( p \times n\)行列\(A\)は\(R^n \to R^p\)の線形写像の表現行列であり、次元定理を適用すれば、以下の関係式が導かれる。
\[\mathrm{rank}\, A = \dim R^n – \dim \mathrm{Ker}\, A\]
以上より、\(\mathrm{rank}(A^\top A) = \mathrm{rank}\, A\)を示すことと\(\dim \mathrm{Ker}\, A^\top A = \dim \mathrm{Ker}\, A\)を示すことは同値なので、\(\dim \mathrm{Ker}\, A^\top A = \dim \mathrm{Ker}\, A\)を示せればよいことになる。\\
さらに、\(\dim \mathrm{Ker}\, A^\top A = \dim \mathrm{Ker}\, A \Leftrightarrow \mathrm{Ker}\, A^\top A = \mathrm{Ker}\, A\)なので、結局のところ、\(\mathrm{Ker}\, A^\top A = \mathrm{Ker}\, A\)を示せばよいことになる。
【証明】
まずは、\(\mathrm{Ker} A^\top A \subset \mathrm{Ker} A\)を示す。
任意の\(\mathbf{x_0} \in \mathrm{Ker} A^\top A\)を選ぶと、\(A^\top A\mathbf{x_0} = \mathbf{0}\)が成り立つ。ここで、\(A^\top A\mathbf{x_0}\)と\(\mathbf{x_0}\)の内積をとると、以下の関係式を得る。
\[
<\mathrm{Im} A^\top A\mathbf{x_0}, \mathbf{x_0}> = 0
\]
なぜなら、\(A^\top A\mathbf{x_0} = \mathbf{0}\)より、\(\mathbf{x_0}\)がどのようなベクトルであったとしても、ゼロベクトル\(\mathbf{0}\)との内積は必ず\(0\)になるから。
この関係式を変形する。
\begin{align*}
<A^\top A\mathbf{x_0}, \mathbf{x_0}> = 0 \\
\Leftrightarrow (A^\top A\mathbf{x_0})^\top \mathbf{x_0} = 0\\
\Leftrightarrow \mathbf{x_{0}}^\top A^\top A \mathbf{x_0} = 0\\
\Leftrightarrow (A\mathbf{x_0})^\top A \mathbf{x_0} = 0 \\
\Leftrightarrow < A\mathbf{x_0}, A\mathbf{x_0}> = 0 \\
\Leftrightarrow ||A\mathbf{x_0}||^2 = 0 \\
\Leftrightarrow A\mathbf{x_0} = \mathbf{0}
\end{align*}
ここから\(\mathbf{x_0} \in \mathrm{Ker} A\)を得る。以上より、\(\mathrm{Ker} A^\top A \subset \mathrm{Ker} A\)
次に、\(\mathrm{Ker} A^\top A \supset \mathrm{Ker} A\)を示す。
任意の\(\mathbf{x_0} \in \mathrm{Ker} A\)を取ると、\(A\mathbf{x_0} = \mathbf{0}\)である。この両辺に左から\(A^\top\)をかければ、\(A^\top A\mathbf{x_0} = A^\top\mathbf{0}\)を得る。すなわち、
\[A^\top A\mathbf{x_0} = \mathbf{0}\]
この関係式は\(\mathbf{x_0} \in \mathrm{Ker} A^\top A\)を意味する。以上より、\(\mathrm{Ker} A^\top A \supset \mathrm{Ker} A\)
よって、\(\mathrm{Ker} A^\top A = \mathrm{Ker} A\)。ここから、\(\mathrm{rank} A^\top A = \mathrm{rank} A\)
参考文献・教材
計量経済学のための数学
統計学のための数学入門30講
線形代数の理論とPythonによる実践
