数値解析 中級
数値線形代数と微分方程式(大学3-4年レベル)
中級の概要
中級では、数値線形代数と常微分方程式の数値解法を学ぶ。連立一次方程式の解法、固有値計算、そして微分方程式を数値的に解く手法を習得する。
学習目標
- LU・Cholesky・QR・SVD 等の行列分解を理解し実装できる
- 反復法(ヤコビ法、ガウス・ザイデル法、CG法)を使える
- べき乗法とQR法による固有値計算を理解する
- ルンゲ・クッタ法で常微分方程式を解ける
- 数値最適化の基本手法(BFGS、共役勾配法)を理解する
目次
直接法(行列分解)
- 1. LU分解 — $A = LU$ への分解、三角方程式の解法
- 2. Cholesky分解 — 対称正定値行列の分解、数値的安定性
- 3. LDL分解 — 平方根不要の対称行列分解、Bunch-Kaufmanピボット
- 4. QR分解 — Gram-Schmidt法、Householder変換、Givens回転
- 5. 特異値分解 (SVD) — 低ランク近似、PCA、画像圧縮
条件数と誤差解析
- 6. 条件数と誤差解析 — 条件数 $\kappa(A)$、悪条件行列、誤差の伝播
反復法(連立方程式)
- 7. 反復法 — ヤコビ法、ガウス・ザイデル法、SOR法、収束条件
固有値問題
- 8. 固有値問題 — べき乗法、逆反復法、QR法、固有値の感度
- 9. べき乗法と逆反復法 — シフト付き逆反復法、レイリー商反復法
- 10. Wilkinson シフト — 対称 QR 法の最適シフト戦略、3次収束
補間と近似
- 11. 近似理論 — 最良近似、$L^2$/$L^\infty$ノルム、チェビシェフ近似、Remez交換定理
- 12. Padé近似 — 有理関数による近似、連分数展開
- 13. Bスプライン — Cox-de Boor の再帰式、ノットベクトル、NURBS
常微分方程式
- 14. 常微分方程式の数値解法 — 改良オイラー法、局所打切り誤差
- 15. ルンゲ・クッタ法 — RK4、ブッチャー表、埋め込み型公式、刻み幅制御
- 16. 安定性解析 — 絶対安定性、A安定性、硬い方程式、陰的方法
非線形方程式
- 17. 多項式の求根(複素根) — Aberth-Ehrlich法、同時反復
- 18. スツルム列と実根の計数 — スツルムの定理、符号変移、根の分離
- 19. Brent法 — 二分法と逆二次補間のハイブリッド
- 20. 多変数ニュートン法 — ヤコビ行列、2次収束、グローバル化手法
- 21. Broyden法 — ヤコビ行列の準ニュートン近似
最適化
- 22. 数値最適化の基礎 — 最適性条件、最急降下法、収束の速さ
- 23. 1次元探索 — 黄金分割法、Armijo条件、Wolfe条件
- 24. 共役勾配法 — Fletcher-Reeves法、Polak-Ribière法
- 25. 準ニュートン法 — BFGS法、DFP法、L-BFGS
- 26. 非線形最小二乗法 — ガウス・ニュートン法、レーベンバーグ・マルカート法
FFTと変換
- 27. 循環畳み込み — DFTの畳み込み定理、overlap-add・overlap-save法
LU分解の可視化
行列 $A$ を下三角行列 $L$ と上三角行列 $U$ の積に分解する。
オイラー法の可視化
複素根の同時反復法
Aberth-Ehrlich法は、すべての根を同時に更新し、互いに反発させながら収束させる。
前提知識
- 数値解析 初級の内容
- 線形代数(行列、固有値)
- 微分方程式の基礎