数値解析 中級

数値線形代数と微分方程式(大学3-4年レベル)

中級の概要

中級では、数値線形代数と常微分方程式の数値解法を学ぶ。連立一次方程式の解法、固有値計算、そして微分方程式を数値的に解く手法を習得する。

学習目標

  • ガウスの消去法とLU分解を理解し実装できる
  • 反復法(ヤコビ法、ガウス・ザイデル法)を使える
  • べき乗法とQR分解による固有値計算を理解する
  • ルンゲ・クッタ法で常微分方程式を解ける
  • 数値解法の安定性について理解する

目次

  1. 第1章 ガウスの消去法

    前進消去・後退代入、ピボット選択、計算量 $O(n^3)$

  2. 第2章 LU分解

    $A = LU$ への分解、コレスキー分解、三角方程式の解法

  3. 第3章 条件数と誤差解析

    条件数 $\kappa(A)$、悪条件行列、誤差の伝播

  4. 第4章 反復法

    ヤコビ法、ガウス・ザイデル法、SOR法、収束条件

  5. 第5章 固有値問題

    べき乗法、逆反復法、QR法、固有値の感度

  6. 第6章 常微分方程式の数値解法(基礎)

    オイラー法、改良オイラー法、局所打切り誤差

  7. 第7章 ルンゲ・クッタ法

    RK4、ブッチャー表、埋め込み型公式、刻み幅制御

  8. 第8章 安定性解析

    絶対安定性、A安定性、硬い方程式、陰的方法

  9. 第9章 多項式の求根(複素根)

    Weierstrass-Durand-Kerner法、Aberth-Ehrlich法、同時反復

  10. 第10章 近似理論

    最良近似、$L^2$/$L^\infty$ノルム、チェビシェフ近似、Remez交換定理

  11. 第11章 Padé近似

    有理関数による近似、連分数展開、数値計算への応用

  12. 第12章 QR分解

    Gram-Schmidt法、Householder変換、Givens回転、最小二乗法への応用

  13. 第13章 Cholesky分解

    対称正定値行列の分解、数値的安定性、連立方程式の解法

  14. 第14章 特異値分解 (SVD)

    特異値・特異ベクトル、低ランク近似、PCA、画像圧縮

  15. 第15章 数値最適化の基礎

    最適化問題の分類、最適性条件、最急降下法、収束の速さ

  16. 第16章 1次元探索

    黄金分割法、Armijo条件、Wolfe条件、Backtracking

  17. 第17章 共役勾配法

    共役方向、Fletcher-Reeves法、Polak-Ribière法、非線形CG法

  18. 第18章 準ニュートン法

    BFGS法、DFP法、Secant条件、L-BFGS

  19. 第19章 多変数ニュートン法

    多変数非線形方程式系、ヤコビ行列、2次収束、グローバル化手法

  20. 第20章 非線形最小二乗法

    ガウス・ニュートン法、レーベンバーグ・マルカート法、カーブフィッティング

  21. 第21章 スツルム列と実根の計数

    スツルム列の構成、スツルムの定理、符号変移、根の分離

  22. 第22章 LDL分解

    平方根不要の対称行列分解、Bunch-Kaufmanピボット、不定値対称系

  23. 第23章 べき乗法と逆反復法

    べき乗法、逆べき乗法、シフト付き逆反復法、レイリー商反復法

LU分解の可視化

行列 $A$ を下三角行列 $L$ と上三角行列 $U$ の積に分解する。

行列Aを下三角行列Lと上三角行列Uの積に分解する概念図 A a₁₁ a₁₂ a₁₃ a₂₁ a₂₂ a₂₃ a₃₁ a₃₂ a₃₃ = L 1 0 0 l₂₁ 1 0 l₃₁ l₃₂ 1 × U u₁₁ u₁₂ u₁₃ 0 u₂₂ u₂₃ 0 0 u₃₃ 下三角 上三角 Ax = b を解くとき: Ly = b (前進代入) → Ux = y (後退代入)

オイラー法の可視化

厳密解とオイラー近似の比較:接線の傾きで次の値を予測し、誤差が蓄積する様子 オイラー法の概念図 t y 厳密解 傾き f(t₀, y₀) 誤差 h 初期値 オイラー近似 厳密解 接線(傾き) yₙ₊₁ = yₙ + h · f(tₙ, yₙ) : 接線の傾きで次の値を予測

複素根の同時反復法

Aberth-Ehrlich法は、すべての根を同時に更新し、互いに反発させながら収束させる。

複素平面上で4つの根を同時に探索し、Newton補正と反発力で各近似が異なる根に収束する様子 Aberth-Ehrlich 法:複素根の同時反復 Re Im 1 −1 i −i |z| = 1 z₁* z₂* z₃* z₄* p(z) = z⁴ − 1 真の根 初期近似 収束方向 反発力 zₖ ← zₖ − p(zₖ) / [p′(zₖ) − p(zₖ) · Σⱼ≠ₖ (zₖ − zⱼ)⁻¹] : Newton + 反発項

前提知識