本手法は1908年 から1909年 にかけてヴァルター・リッツ が発表したもので、リッツ法 と呼ぶべきであるという主張もある[ 1] [ 2] [ 1] 1911年 にリッツの業績を顕彰する論文を書いたが、彼自身が書籍他の刊行物において本手法をすでに何度も用いていたと述べている。後に異論も出たもののこの主張にくわえ、射影 に単一ベクトルを用いる自明 な場合、本手法はレイリー商 の計算に帰着するという事実もあり、異論もあるもののレイリー・リッツ法という名称が現在まで用いられている。S.Ilanko[ 2] リヒャルト・クーラント を引いて、レイリー卿とヴァルター・リッツがそれぞれ独立に、偏微分方程式 の境界値問題 と変分 問題の等価性を活用し、有限のパラメータを決定すればよい極値問題で変分法を置き換えるというアイデアを独自に考案したとする。詳細については、リッツ法 の項を参照されたい。皮肉なことに、後にこの手法はより単純でより一般的な正射影 を用いるよう改良され、ボリス・ガラーキン （英語版 ） ガラーキン法 （英語版 ）
数値線形代数 において、レイリー・リッツ法 は一般的[ 3]
N
{\displaystyle N}
正方行列
A
∈
C
N
×
N
{\displaystyle A\in \mathbb {C} ^{N\times N}}
固有値問題
A
x
=
λ
x
{\displaystyle A\mathbf {x} =\lambda \mathbf {x} }
A
{\displaystyle A}
正規直交系 をなす射影行列
V
∈
C
N
×
m
{\displaystyle V\in \mathbb {C} ^{N\times m}}
m
×
m
{\displaystyle m\times m}
V
∗
A
V
{\displaystyle V^{*}AV}
V
∗
{\displaystyle V^{*}}
V
{\displaystyle V}
複素共役転置行列 とする。固有値問題
V
∗
A
V
y
i
=
μ
i
y
i
{\displaystyle V^{*}AV\mathbf {y} _{i}=\mu _{i}\mathbf {y} _{i}}
リッツベクトル
x
~
i
=
V
y
i
{\displaystyle {\tilde {\mathbf {x} }}_{i}=V\mathbf {y} _{i}}
λ
~
i
=
μ
i
{\displaystyle {\tilde {\lambda }}_{i}=\mu _{i}}
リッツ対と呼ばれる
(
λ
~
i
,
x
~
i
)
{\displaystyle ({\tilde {\lambda }}_{i},{\tilde {\mathbf {x} }}_{i})}
A
{\displaystyle A}
もし、行列
V
∈
C
N
×
m
{\displaystyle V\in \mathbb {C} ^{N\times m}}
線型部分空間 が行列
A
{\displaystyle A}
k
≤
m
{\displaystyle k\leq m}
k
{\displaystyle k}
‖
A
x
~
i
−
λ
~
i
x
~
i
‖
{\displaystyle \|A{\tilde {\mathbf {x} }}_{i}-{\tilde {\lambda }}_{i}{\tilde {\mathbf {x} }}_{i}\|}
最も簡単な
m
=
1
{\displaystyle m=1}
N
×
m
{\displaystyle N\times m}
V
{\displaystyle V}
単位列ベクトル
v
{\displaystyle v}
V
∗
A
V
{\displaystyle V^{*}AV}
レイリー商
ρ
(
v
)
=
v
∗
A
v
/
v
∗
v
{\displaystyle \rho (v)=v^{*}Av/v^{*}v}
と一致するスカラーとなり、固有値問題の唯一の解は
y
1
=
1
,
μ
1
=
ρ
(
v
)
{\displaystyle y_{1}=1,\mu _{1}=\rho (v)}
v
{\displaystyle v}
m
=
1
{\displaystyle m=1}
別の有用なレイリー商とのつながりとして、各レイリー対
(
λ
~
i
,
x
~
i
)
{\displaystyle ({\tilde {\lambda }}_{i},{\tilde {\mathbf {x} }}_{i})}
μ
i
=
ρ
(
v
i
)
{\displaystyle \mu _{i}=\rho (v_{i})}
A
{\displaystyle A}
エルミート行列 のとき、そのレイリー商は（したがってリッツ値も）実数値をとり、
A
{\displaystyle A}
閉区間 におさまる。
行列
A
=
[
2
0
0
0
2
1
0
1
2
]
{\displaystyle A={\begin{bmatrix}2&0&0\\0&2&1\\0&1&2\end{bmatrix}}}
1
,
2
,
3
{\displaystyle 1,2,3}
x
λ
=
1
=
[
0
1
−
1
]
,
x
λ
=
2
=
[
1
0
0
]
,
x
λ
=
3
=
[
0
1
1
]
.
{\displaystyle \mathbf {x} _{\lambda =1}={\begin{bmatrix}0\\1\\-1\end{bmatrix}},\quad \mathbf {x} _{\lambda =2}={\begin{bmatrix}1\\0\\0\end{bmatrix}},\quad \mathbf {x} _{\lambda =3}={\begin{bmatrix}0\\1\\1\end{bmatrix}}.}
V
=
[
0
0
1
0
0
1
]
{\displaystyle V={\begin{bmatrix}0&0\\1&0\\0&1\end{bmatrix}}}
V
∗
A
V
=
[
2
1
1
2
]
{\displaystyle V^{*}AV={\begin{bmatrix}2&1\\1&2\end{bmatrix}}}
1
,
3
{\displaystyle 1,3}
y
μ
=
1
=
[
1
−
1
]
,
y
μ
=
3
=
[
1
1
]
{\displaystyle \mathbf {y} _{\mu =1}={\begin{bmatrix}1\\-1\end{bmatrix}},\quad \mathbf {y} _{\mu =3}={\begin{bmatrix}1\\1\end{bmatrix}}}
1
,
3
{\displaystyle 1,3}
x
~
λ
~
=
1
=
[
0
1
−
1
]
,
x
~
λ
~
=
3
=
[
0
1
1
]
{\displaystyle \mathbf {\tilde {x}} _{{\tilde {\lambda }}=1}={\begin{bmatrix}0\\1\\-1\end{bmatrix}},\quad \mathbf {\tilde {x}} _{{\tilde {\lambda }}=3}={\begin{bmatrix}0\\1\\1\end{bmatrix}}}
V
{\displaystyle V}
A
{\displaystyle A}
V
{\displaystyle V}
列空間 が2つの固有ベクトル
x
λ
=
1
{\displaystyle \mathbf {x} _{\lambda =1}}
x
λ
=
3
{\displaystyle \mathbf {x} _{\lambda =3}}
数値線形代数において、打ち切り特異値分解 問題に対してもレイリー・リッツ法を適用することができる。これにより、サイズ
M
×
N
{\displaystyle M\times N}
M
∈
C
M
×
N
{\displaystyle M\in \mathbb {C} ^{M\times N}}
特異値
σ
{\displaystyle \sigma }
u
{\displaystyle u}
v
{\displaystyle v}
M
v
=
σ
u
{\displaystyle Mv=\sigma u}
M
∗
u
=
σ
v
{\displaystyle M^{*}u=\sigma v}
正規行列
M
∗
M
∈
C
N
×
N
{\displaystyle M^{*}M\in \mathbb {C} ^{N\times N}}
M
M
∗
∈
C
M
×
M
{\displaystyle MM^{*}\in \mathbb {C} ^{M\times M}}
u
=
M
v
/
σ
{\displaystyle u=Mv/\sigma }
v
=
M
∗
u
/
σ
{\displaystyle v=M^{*}u/\sigma }
別のアプローチとして、サイズ
N
×
N
{\displaystyle N\times N}
A
=
M
∗
M
∈
C
N
×
N
{\displaystyle A=M^{*}M\in \mathbb {C} ^{N\times N}}
N
×
m
{\displaystyle N\times m}
W
∈
C
N
×
m
{\displaystyle W\in \mathbb {C} ^{N\times m}}
m
×
m
{\displaystyle m\times m}
W
∗
A
W
=
W
∗
M
∗
M
W
=
(
M
W
)
∗
M
W
{\displaystyle W^{*}AW=W^{*}M^{*}MW=(MW)^{*}MW}
N
×
m
{\displaystyle N\times m}
M
W
{\displaystyle MW}
N
×
m
{\displaystyle N\times m}
M
W
{\displaystyle MW}
Thin-SVD [訳語疑問点
M
W
=
U
Σ
V
h
{\displaystyle MW=\mathbf {U} \Sigma \mathbf {V} _{h}}
N
×
m
{\displaystyle N\times m}
U
{\displaystyle \mathbf {U} }
m
×
m
{\displaystyle m\times m}
対角行列
Σ
{\displaystyle \Sigma }
m
×
m
{\displaystyle m\times m}
V
h
{\displaystyle \mathbf {V} _{h}}
リッツ左特異ベクトル
U
=
U
{\displaystyle U=\mathbf {U} }
V
h
=
V
h
W
∗
{\displaystyle V_{h}=\mathbf {V} _{h}W^{*}}
リッツ特異トリプレットと呼ばれる三つ組
U
,
Σ
,
V
h
{\displaystyle U,\Sigma ,V_{h}}
M
{\displaystyle M}
W
{\displaystyle W}
このアルゴリズムは、固有値問題ソルバ（例：LOBPCG （英語版 ）
W
{\displaystyle W}
行列
M
=
[
1
0
0
0
0
2
0
0
0
0
3
0
0
0
0
4
0
0
0
0
]
{\displaystyle M={\begin{bmatrix}1&0&0&0\\0&2&0&0\\0&0&3&0\\0&0&0&4\\0&0&0&0\end{bmatrix}}}
A
=
M
∗
M
=
[
1
0
0
0
0
4
0
0
0
0
9
0
0
0
0
16
]
{\displaystyle A=M^{*}M={\begin{bmatrix}1&0&0&0\\0&4&0&0\\0&0&9&0\\0&0&0&16\\\end{bmatrix}}}
1
,
2
,
3
,
4
{\displaystyle 1,2,3,4}
A
=
[
0
0
0
1
0
0
1
0
0
1
0
0
1
0
0
0
0
0
0
0
]
[
4
0
0
0
0
3
0
0
0
0
2
0
0
0
0
1
]
[
0
0
0
1
0
0
1
0
0
1
0
0
1
0
0
0
]
,
{\displaystyle A={\begin{bmatrix}0&0&0&1\\0&0&1&0\\0&1&0&0\\1&0&0&0\\0&0&0&0\end{bmatrix}}{\begin{bmatrix}4&0&0&0\\0&3&0&0\\0&0&2&0\\0&0&0&1\end{bmatrix}}{\begin{bmatrix}0&0&0&1\\0&0&1&0\\0&1&0&0\\1&0&0&0\end{bmatrix}},}
A
{\displaystyle A}
[
0
0
0
1
0
0
1
0
0
1
0
0
1
0
0
0
]
∗
=
[
0
0
0
1
0
0
1
0
0
1
0
0
1
0
0
0
]
{\displaystyle {\begin{bmatrix}0&0&0&1\\0&0&1&0\\0&1&0&0\\1&0&0&0\end{bmatrix}}^{*}\quad =\quad {\begin{bmatrix}0&0&0&1\\0&0&1&0\\0&1&0&0\\1&0&0&0\end{bmatrix}}}
[
0
1
1
0
0
0
0
0
]
{\displaystyle {\begin{bmatrix}0&1\\1&0\\0&0\\0&0\end{bmatrix}}}
により張られる空間を列空間とする行列、
W
=
[
1
/
2
1
/
2
1
/
2
−
1
/
2
0
0
0
0
]
{\displaystyle W={\begin{bmatrix}1/{\sqrt {2}}&1/{\sqrt {2}}\\1/{\sqrt {2}}&-1/{\sqrt {2}}\\0&0\\0&0\end{bmatrix}}}
を導入する。
上記アルゴリズムのステップ1に従い、次の行列を得る。
M
W
=
[
1
/
2
1
/
2
2
−
2
0
0
0
0
]
{\displaystyle MW={\begin{bmatrix}1/{\sqrt {2}}&1/{\sqrt {2}}\\{\sqrt {2}}&-{\sqrt {2}}\\0&0\\0&0\end{bmatrix}}}
M
W
=
U
Σ
V
h
{\displaystyle MW=\mathbf {U} {\Sigma }\mathbf {V} _{h}}
U
=
[
0
1
1
0
0
0
0
0
0
0
]
,
Σ
=
[
2
0
0
1
]
,
V
h
=
[
1
/
2
−
1
/
2
1
/
2
1
/
2
]
{\displaystyle \mathbf {U} ={\begin{bmatrix}0&1\\1&0\\0&0\\0&0\\0&0\end{bmatrix}},\quad \Sigma ={\begin{bmatrix}2&0\\0&1\end{bmatrix}},\quad \mathbf {V} _{h}={\begin{bmatrix}1/{\sqrt {2}}&-1/{\sqrt {2}}\\1/{\sqrt {2}}&1/{\sqrt {2}}\end{bmatrix}}}
Σ
{\displaystyle \Sigma }
U
{\displaystyle \mathbf {U} }
u
{\displaystyle u}
[
0
,
1
,
0
,
0
,
0
]
∗
{\displaystyle [0,1,0,0,0]^{*}}
[
1
,
0
,
0
,
0
,
0
]
∗
{\displaystyle [1,0,0,0,0]^{*}}
W
{\displaystyle W}
W
{\displaystyle W}
最後に、ステップ3に従い
V
h
=
V
h
W
∗
{\displaystyle V_{h}=\mathbf {V} _{h}W^{*}}
V
h
=
[
1
/
2
−
1
/
2
1
/
2
1
/
2
]
[
1
/
2
1
/
2
0
0
1
/
2
−
1
/
2
0
0
]
=
[
0
1
0
0
1
0
0
0
]
{\displaystyle \mathbf {V} _{h}={\begin{bmatrix}1/{\sqrt {2}}&-1/{\sqrt {2}}\\1/{\sqrt {2}}&1/{\sqrt {2}}\end{bmatrix}}\,{\begin{bmatrix}1/{\sqrt {2}}&1/{\sqrt {2}}&0&0\\1/{\sqrt {2}}&-1/{\sqrt {2}}&0&0\end{bmatrix}}={\begin{bmatrix}0&1&0&0\\1&0&0&0\end{bmatrix}}}
v
{\displaystyle v}
[
0
,
1
,
0
,
0
]
∗
{\displaystyle [0,1,0,0]^{*}}
[
1
,
0
,
0
,
0
]
∗
{\displaystyle [1,0,0,0]^{*}}
M
v
=
σ
u
{\displaystyle Mv=\sigma u}
[
1
0
0
0
0
2
0
0
0
0
3
0
0
0
0
4
0
0
0
0
]
[
0
1
0
0
]
=
2
[
0
1
0
0
0
]
{\displaystyle {\begin{bmatrix}1&0&0&0\\0&2&0&0\\0&0&3&0\\0&0&0&4\\0&0&0&0\end{bmatrix}}\,{\begin{bmatrix}0\\1\\0\\0\end{bmatrix}}=\,2\,{\begin{bmatrix}0\\1\\0\\0\\0\end{bmatrix}}}
M
∗
u
=
σ
v
{\displaystyle M^{*}u=\sigma v}
[
1
0
0
0
0
0
2
0
0
0
0
0
3
0
0
0
0
0
4
0
]
[
0
1
0
0
0
]
=
2
[
0
1
0
0
]
{\displaystyle {\begin{bmatrix}1&0&0&0&0\\0&2&0&0&0\\0&0&3&0&0\\0&0&0&4&0\end{bmatrix}}\,{\begin{bmatrix}0\\1\\0\\0\\0\end{bmatrix}}=\,2\,{\begin{bmatrix}0\\1\\0\\0\end{bmatrix}}}
W
{\displaystyle W}
W
{\displaystyle W}
![{\displaystyle [0,1,0,0,0]^{*}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/de6114937b86934f48baae6c7fe3d80e44478cc4)
![{\displaystyle [1,0,0,0,0]^{*}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/88861f4d6af3aa52375d6839bd0d6273519080d7)
![{\displaystyle [0,1,0,0]^{*}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/23e1cb7ee2714bca29d44a0dd6383cc7083a7083)
![{\displaystyle [1,0,0,0]^{*}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/7039b4289d40d7719059ff50d498455fe91aadf9)
