連立方程式の場合、反復法には主に定常反復法と、より一般的なクリロフ部分空間法の2種類がある。
定常反復法 編集
はじめに 編集
定常反復法は、連立方程式を元の方程式に近似した演算子で解き、その結果の誤差（残差）を測定して「補正方程式」を作り、このプロセスを繰り返す方法である。 これらの方法は導出、実装、解析が簡単であるが、収束は限られたクラスの行列に対してのみ保証される。
定義 編集
反復法は次式で定義される
x k + 1 := Ψ ( x k ) , k ≥ 0 {displaystyle \mathbf {x}. ^{k+1}:=Psi (\mathbf {x} ^{k})\,,\quad kgeq 0}
and for given linear system A x = b {displaystyle Amathbf {x} = Neithermathbf {b} {} {} {2679>
1}: A=B {displaystyle A=B {} {b} {} {displaystyle A=B {mathbf {b} {}} {displaystyle A=B }
with exact solution x ∗ {displaystyle \mathbf {x}}. ^{*}}
e k := x k – x ∗ , k ≥ 0 によって誤差が生じます。 {displaystyle \mathbf {e} }. ^{k}:=Mathbf {x} ^{k}- {x} ^{*} 103,,\quad kgeq 0,.}.
Aniterative method is called a matrix C∈R n × n {displaystyle C in \mathbb {R} ^{ntimes n}}} が存在する場合、この方法は線形であるという。
such that e k + 1 = C e k ∀ k ≥ 0 {displaystyle \mathbf {e}. ^{k+1}=Cmathbf {e}. ^{k} quad \forall ╱kgeq 0}
そしてこの行列を反復行列と呼びます。与えられた反復行列C {displaystyle C} を持つ反復法
が成り立つとき、収束と呼ぶ。 lim k → ∞ C k = 0 . {displaystyle \lim _{k}rightarrow \infty }C^{k}=0,.} が成立する場合、収束と呼ばれます。
重要な定理は、与えられた反復法とその反復行列Cに対して{displaystyle C}が
それが収束するのは、そのスペクトル半径 ρ ( C ) {displaystyle \rho (C)} のときだけである。
は単一より小さい、すなわち、ρ ( C ) < 1 . {displaystyle \rho (C)<1,.} .
基本的な反復法は行列A {displaystyle A}を分割することで動作します。
は A = M – N {displaystyle A=M-N} に分割されます。
そしてここでは行列M {displaystyle M} がある。
は簡単に反転できるはずです。ここで、反復法は、M x k + 1 = N x k + b , k ≥ 0 と定義されます。 {Mathbf {x} と定義されます。 ^{k+1}=Nmathbf {x} ^{k}+b,,\quad kgeq 0},.}.
これより、反復行列は
C = I – M – 1 A = M – 1 N で与えられる。 {{displaystyle C=I-M^{-1}A=M^{-1}N,.}
ExamplesEdit
定常反復法の基本例では、行列Aの分割 {displaystyle A} を使用する。
such as A = D + L + U , D := diag ( ( a i i ) i ) {displaystyle A=D+L+U,,\quad D:={THEXT{diag}}((a_{ii})_{i})
where D {displaystyle D}を表示する。
はA {displaystyle A}の対角部分のみである。
, そして L {displaystyle L} 。
は A {displaystyle A} の厳密な下三角形部分である。
.Respectively, U {displaystyle U} {4144>
は A {displaystyle A} の厳密な上三角形部分である。
.
- リチャードソン法。 M := 1 ω I ( ω ≠ 0 ) {displaystyle M:={Thrac {1}{omega }}Iquad (\omega \neq 0)}} ←クリック。
- ヤコビ法。 M := D {displaystyle M:=D}.
- Damped Jacobi法。 M := 1 ω D ( ω ≠ 0 ) {displaystyle M:={᷅frac {1}{omega }}Dquad (\mega \neq 0)}}
- ガウス・ザイデル法。 M :=D + L {displaystyle M:=D+L}.
- 逐次過緩和法(SOR)です。 M := 1 ω D + L ( ω ≠ 0 ) {\displaystyle M:={frac {1}{mega }}D+L\quad (\omega \neq 0)}} { ω ≠ 0} { ω ≠ 0} { ω ≠ 0} { ω ≠ 0} { ≠ 1 ω D + L (ω ≠ 0)
- Symmetric successive over-relaxation (SSOR)の略。 M := 1 ω ( 2 – ω ) ( D + ω L ) D – 1 ( D + ω U ) ( ω≠ { 0 , 2 } ) {displaystyle M:={frac {1}{omega (2-ωω ) }(D+ω L)D^{-1}(D+ω U)\quad (\miga \neq \{0,2}) } } ｝のようになります。
線形定常反復法は緩和法とも呼ばれる。
Krylov subspace methodsEdit
クリロフ部分空間法は初期残差を乗じた連続行列列（Krylov列）の基底を形成して機能する。 解の近似は、形成された部分空間上で残差を最小化することによって形成されます。 このクラスの典型的な方法は共役勾配法（CG）であり、システム行列A{displaystyle A}を仮定している。
is symmetric positive-definite.For symmetric (and possibly indefinite) A {displaystyle A} {8860>
is symmetric positive-definite. Krylov subspace methodsの収束Edit
これらの方法は基底を形成するので、NをシステムサイズとしたN回の反復で収束することは明らかである。 しかし、丸め誤差があるとこの文は成り立たない。さらに、実際にはNは非常に大きくなり、繰り返し処理はすでにずっと前に十分な精度に達していることがある。
PreconditionersEdit
定常反復法に現れる近似演算子は、GMRESなどのクリロフ部分空間法にも取り入れることができ、元の演算子をより条件のよいものに変換することができる（あるいは、定常反復法の加速とみなすことができる）。 8860>
HistoryEdit
おそらく線形システムを解くための最初の反復法は、彼の学生にガウスの手紙に登場した。 彼は残差が最大であるコンポーネントを繰り返し解くことによって方程式の4×4系を解くことを提案した。
定常反復法の理論は、1950年代からD.M.ヤングの仕事としっかりと確立された。 共役勾配法も1950年代にCornelius Lanczos、Magnus Hestenes、Eduard Stiefelが独自に開発して発明されたが、当時はその性質と適用性について誤解があった。 1970年代になってようやく、共役ベースの方法が偏微分方程式、特に楕円型に非常によく効くことが理解されたのである
。