特異値

数学の線型代数学分野において、行列 $A$ の特異値（とくいち、英: Singular values）とは、 $A$ の随伴行列 $A *$ との積 $AA *$ の固有値の非負の平方根のことである^[1]^[2]^{[要ページ番号]}。

定義

以下、

と表記する。

冒頭部の定義を数学記号で書くと次のようになる。

\sigma _{i}(A)={\sqrt {\lambda _{i}(AA^{*})}}\quad (A\in M_{m,n}(\mathbb {R} ~~\mathrm {or} ~~\mathbb {C} ))

特異値は $m \times n$ の行列に対して定義される（固有値は $n \times n$ の正方行列でのみ定義される）。

行列 $AA *$ は $m \times m$ のエルミート行列（あるいは対称行列）であり、かつ半正定値行列である。つまり、任意の $m$ 次元の零でないベクトル $x$ について以下の条件を満たす。

x^{*}AA^{*}x\geq 0

行列 $A * A$ は $n \times n$ のエルミート行列（あるいは対称行列）であり、かつ半正定値行列である。つまり、任意の $n$ 次元の零でないベクトル $y$ について以下の条件を満たす。

y^{*}A^{*}Ay\geq 0

よって、

注意事項： 行列式やトレースなどは正方行列に対して定義されるので $m \times n$ の行列 $A$ に直接適用してはならない。

特異値 $σ (A)$ はすべて非負の実数 $σ (A) \geq 0$
$\sigma _{i}(A)=\sigma _{i}(A^{*})$ ^{[注釈 1]}
$\sigma _{i}(A)={\sqrt {\lambda _{i}(AA^{*})}}={\sqrt {\lambda _{i}(A^{*}A)}}$
$\left({\sqrt {AA^{*}}}\right)^{2}x=AA^{*}x=\lambda _{i}(AA^{*})x=\sigma _{i}^{2}(A)x$
$\sigma _{i}(A)=\lambda _{i}({\sqrt {AA^{*}}})=\lambda _{i}({\sqrt {A^{*}A}})$

$\det(AA^{*})=\prod _{i}\lambda _{i}(AA^{*})=\prod _{i=1}^{\min(m,n)}\sigma _{i}^{2}(A)$
$\operatorname {tr} (AA^{*})=\sum _{i}\lambda _{i}(AA^{*})=\sum _{i=1}^{\min(m,n)}\sigma _{i}^{2}(A)$ ^{[注釈 2]}

行列 A が m = n の正方行列の場合には以下が成り立つ。
- $|\det(A)|=\prod _{i}\sigma _{i}(A)$ ^{[注釈 3]}
- ワイルの不等式

\prod _{i=1}^{k}|\lambda (A)|\leq \prod _{i=1}^{k}\sigma (A)\quad (1\leq k\leq m=n)

行列 A が m = n の正規行列の場合には以下が成り立つ。
- 特異値は固有値の絶対値に等しい。 $\sigma _{i}(A)=|\lambda _{i}(A)|$

行列 A が m = n の半正定値対称行列の場合には以下が成り立つ。
- 特異値は固有値に等しい。 $\sigma _{i}(A)=\lambda _{i}(A)$
$A^{p}$ の特異値を $\sigma _{i}^{(p)}$ として、

|\lambda _{1}|\geq \cdots \geq |\lambda _{n}|,\quad \sigma _{1}^{(p)}\geq \cdots \geq \sigma _{n}^{(p)}

と並べるとき、Banach代数の分野で知られた公式（Gelfand, 1941）^[2]^{[要ページ番号]}:

\lim _{p\to \infty }\sigma _{1}^{(p){\frac {1}{p}}}=|\lambda _{1}|

の一般化として、

\lim _{p\to \infty }\sigma _{i}^{(p){\frac {1}{p}}}=|\lambda _{i}|,\quad 1\leq i\leq n

が成り立つ^[3]。この公式はヒルベルト空間上のコンパクト作用素に対しても成立する^[4]。

^ Grégoire Allaire, Sidi Mahmoud Kaber 2007, pp. 33–34.
^ ^a ^b 山本 2003.
^ Yamamoto, T. (1967). On the extreme values of the roots of matrices. Journal of the Mathematical Society of Japan, 19(2), 173-178.
^ Davis, C. (1970). On a theorem of Yamamoto. Numerische Mathematik, 14(3), 297-298.

^ 特異値分解で $M = UΣV *, M * = (UΣV *) * = VΣ * U *$ 。特異値を対角成分に持つ $Σ$ は対角行列だから $Σ = Σ *$ 。
^ フロベニウスノルム参照
^ (証明) $\scriptstyle \det(AA^{*})=\det(A){\overline {\det(A)}}=|\det(A)|^{2}=\prod _{i}\sigma _{i}^{2}(A)$ .

James Bisgard: "Analysis and Linear Algebra: The Singular Value Decomposition and Applications", AMS, ISBN 978-1-4704-6332-8 (2021).