数値解析中級

数値線形代数・補間・近似・積分・常微分方程式・最適化・フーリエ変換（大学3-4年レベル・全68章）

中級の概要

中級では、数値線形代数（行列分解・反復法・固有値）、補間と関数近似、数値積分、常微分方程式の数値解法、非線形方程式の求解、数値最適化、離散フーリエ変換までを体系的に学ぶ。学部3-4年の数値解析講義および大学院入門レベルに対応する。

学習目標

LU・Cholesky・QR・SVD 等の行列分解を理解し実装できる
Jacobi・Gauss-Seidel・SOR・ILU 等の反復法と前処理を使える
べき乗法・逆反復法・Jacobi 回転・Wilkinson シフトで固有値計算ができる
Aitken・Neville・Hermite・スプライン・Chebyshev による補間と近似を理解する
Padé 近似・ミニマックス（Remez）・最小二乗法を使い分けられる
Romberg・Richardson 外挿・Gauss-Legendre 等の高次求積法を使える
ルンゲ・クッタ法・多段法・陰的解法で常微分方程式を解ける
硬い方程式（Stiff ODE）と A 安定性を理解する
多項式求根・多変数 Newton・Broyden 法を使い分けられる
数値最適化の基本手法（共役勾配法・BFGS・L-BFGS）を理解する
離散フーリエ変換と巡回畳み込みを理解する

目次（全68章）

第 I 部計算の基礎

1. Kahan 加算 — 補償付き加算、Neumaier 補正、誤差の累積抑制

第 II 部連立一次方程式 — 直接法

2. LU分解 — $A = LU$ への分解、三角方程式の解法
3. Cholesky分解 — 対称正定値行列の分解、数値的安定性
4. LDL分解 — 平方根不要の対称行列分解、Bunch-Kaufman ピボット
5. Householder 変換 — 鏡映、QR分解の構築、三重対角化
6. Givens 回転 — 平面回転による要素消去、疎行列向け QR
7. QR分解 — Gram-Schmidt 法、Householder QR、Givens QR
8. 特異値分解 (SVD) — 低ランク近似、PCA、画像圧縮
9. Thomas アルゴリズム — 三重対角行列の $O(n)$ 求解
10. 帯行列ソルバー — 帯幅 $p$ の LU、計算量 $O(np^2)$
11. 疎行列 — CSR/CSC 格納形式、効率的演算
12. 条件数と誤差解析 — $\kappa(A)$、悪条件行列、誤差伝播

第 III 部連立一次方程式 — 反復法

13. 反復法概論 — 収束条件、スペクトル半径、停止条件
14. Jacobi 法 — 対角優位、並列化、収束解析
15. Gauss-Seidel 法 — 逐次更新、Jacobi より高速な収束
16. SOR 法 — 逐次過緩和、最適緩和係数 $\omega$
17. 不完全 LU 分解 (ILU) — 前処理、ILU(0)/ILUT、Krylov 法の高速化

第 IV 部固有値問題

18. 固有値問題 — 標準形、相似変換、固有値の感度
19. べき乗法 — 最大絶対値固有値、レイリー商
20. 逆反復法 — シフト付き、Rayleigh 商反復、3次収束
21. Jacobi 回転 — 対称固有値、2次収束、全固有値
22. Wilkinson シフト — 対称 QR 法の最適シフト戦略、3次収束

第 V 部補間

23. Aitken 補間 — Δ² 過程、収束加速
24. Neville のアルゴリズム — 再帰的補間、表計算形式
25. Hermite 補間 — 接触多項式、重複節点、導関数値の利用
26. スプライン補間概論 — 区分多項式、滑らかさ、節点
27. 三次スプライン — 自然・固定・Not-a-Knot 境界条件
28. Bスプライン — Cox-de Boor の再帰式、ノットベクトル、NURBS
29. Bernstein 多項式 — Weierstrass 定理、Bézier 曲線
30. Chebyshev 補間 — Runge 現象回避、バリセントリック形式
31. Clenshaw 漸化式 — 後退漸化、直交多項式展開の安定評価

第 VI 部関数近似

32. 近似理論 — 最良近似、$L^2$/$L^\infty$ ノルム、Remez 交換定理
33. Chebyshev 近似 — DCT、べき級数経済化、Clenshaw
34. Padé 近似 — 有理関数近似、連分数展開
35. ミニマックス近似 — Remez 交換定理、最適多項式
36. 最小二乗法 — 正規方程式、QR 分解による解法
37. 全最小二乗法 — EIV モデル、SVD による解

第 VII 部数値積分

38. Boole の公式 — Newton-Cotes 5 点公式、6 次精度
39. Richardson 外挿 — 誤差加速、$h \to 0$ の漸近展開
40. Romberg 積分 — 台形則 + Richardson 加速
41. Legendre-Gauss 求積 — 有限区間、$2n-1$ 次正確
42. Chebyshev 求積 — 等重み、Chebyshev 節点
43. Hermite-Gauss 求積 — 無限区間、重み $e^{-x^2}$
44. Gauss-Laguerre 求積 — 半無限区間、重み $e^{-x}$
45. Radau 求積 — 端点を 1 つ含む
46. Lobatto 求積 — 両端点を含む、Clenshaw-Curtis 系

第 VIII 部常微分方程式

47. 常微分方程式の数値解法 — 改良オイラー法、局所打切り誤差
48. ルンゲ・クッタ法 — RK4、Butcher 表、埋め込み型、刻み幅制御
49. 多段法 — 線形多段法、BDF、ゼロ安定性
50. Adams 法 — Adams-Bashforth、Adams-Moulton
51. 予測子・修正子法 — PECE、Milne 法
52. 陰的オイラー法 — A 安定、L 安定、Newton 反復
53. 台形法 (ODE) — 2 次精度、A 安定、Crank-Nicolson
54. 安定性解析と硬い方程式 — 絶対安定性、A安定性、Stiffness ratio、Dahlquist 障壁

第 IX 部非線形方程式

55. 多項式の求根 — Aberth-Ehrlich 法、同時反復
56. スツルム列と実根の計数 — Sturm の定理、符号変移
57. Brent 法 — 二分法と逆二次補間のハイブリッド
58. Müller の方法 — 2 次補間、複素根対応、2 次収束
59. Halley の方法 — 3 次収束、Householder の高次反復
60. 多変数 Newton 法 — Jacobi 行列、2 次収束、グローバル化
61. Broyden 法 — 準 Newton 近似、ランク 1 更新

第 X 部最適化 (→ 最適化シリーズへ移管)

数値最適化の各トピックは独立した「最適化」シリーズに集約された。重複を避けるため、当章では直接該当ページにリンクする。

数値最適化の基礎 — 最適性条件、最急降下法、収束の速さ
1次元探索 — 黄金分割法、Armijo 条件、Wolfe 条件
共役勾配法 — Fletcher-Reeves、Polak-Ribière
準 Newton 法 — BFGS、DFP、L-BFGS
非線形最小二乗法 — Gauss-Newton、Levenberg-Marquardt

第 XI 部フーリエ変換

67. 離散フーリエ変換 (DFT) — 定義、逆変換、Parseval、回転因子
68. 循環畳み込み — 畳み込み定理、overlap-add・overlap-save

前提知識

数値解析初級の内容
線形代数（行列、固有値、ベクトル空間）
微分積分、テイラー展開
微分方程式の基礎
複素数（DFT 章のみ）