数値解析中級

数値線形代数・補間・近似・積分・常微分方程式・最適化・フーリエ変換（大学3-4年レベル・全68章）

中級の概要

中級では、数値線形代数（行列分解・反復法・固有値）、補間と関数近似、数値積分、常微分方程式の数値解法、非線形方程式の求解、数値最適化、離散フーリエ変換までを体系的に学ぶ。学部3-4年の数値解析講義および大学院入門レベルに対応する。

学習目標

LU・Cholesky・QR・SVD 等の行列分解を理解し実装できる
Jacobi・Gauss-Seidel・SOR・ILU 等の反復法と前処理を使える
べき乗法・逆反復法・Jacobi 回転・Wilkinson シフトで固有値計算ができる
Aitken・Neville・Hermite・スプライン・Chebyshev による補間と近似を理解する
Padé 近似・ミニマックス（Remez）・最小二乗法を使い分けられる
Romberg・Richardson 外挿・Gauss-Legendre 等の高次求積法を使える
ルンゲ・クッタ法・多段法・陰的解法で常微分方程式を解ける
硬い方程式（Stiff ODE）と A 安定性を理解する
多項式求根・多変数 Newton・Broyden 法を使い分けられる
数値最適化の基本手法（共役勾配法・BFGS・L-BFGS）を理解する
離散フーリエ変換と巡回畳み込みを理解する

目次

第 I 部計算の基礎

Kahan 加算 — 補償付き加算、Neumaier 補正、誤差の累積抑制

第 II 部連立一次方程式 — 直接法

LU分解 — $A = LU$ への分解、三角方程式の解法
Cholesky分解 — 対称正定値行列の分解、数値的安定性
LDL分解 — 平方根不要の対称行列分解、Bunch-Kaufman ピボット
Householder 変換 — 鏡映、QR分解の構築、三重対角化
Givens 回転 — 平面回転による要素消去、疎行列向け QR
QR分解 — Gram-Schmidt 法、Householder QR、Givens QR
特異値分解 (SVD) — 低ランク近似、PCA、画像圧縮
Thomas アルゴリズム — 三重対角行列の $O(n)$ 求解
帯行列ソルバー — 帯幅 $p$ の LU、計算量 $O(np^2)$
疎行列 — CSR/CSC 格納形式、効率的演算
条件数と誤差解析 — $\kappa(A)$、悪条件行列、誤差伝播

第 III 部連立一次方程式 — 反復法

反復法概論 — 収束条件、スペクトル半径、停止条件
Jacobi 法 — 対角優位、並列化、収束解析
Gauss-Seidel 法 — 逐次更新、Jacobi より高速な収束
SOR 法 — 逐次過緩和、最適緩和係数 $\omega$
不完全 LU 分解 (ILU) — 前処理、ILU(0)/ILUT、Krylov 法の高速化

第 IV 部固有値問題

固有値問題 — 標準形、相似変換、固有値の感度
べき乗法 — 最大絶対値固有値、レイリー商
逆反復法 — シフト付き、Rayleigh 商反復、3次収束
Jacobi 回転 — 対称固有値、2次収束、全固有値
Wilkinson シフト — 対称 QR 法の最適シフト戦略、3次収束

第 V 部補間

Aitken 補間 — Δ² 過程、収束加速
Neville のアルゴリズム — 再帰的補間、表計算形式
Hermite 補間 — 接触多項式、重複節点、導関数値の利用
スプライン補間概論 — 区分多項式、滑らかさ、節点
三次スプライン — 自然・固定・Not-a-Knot 境界条件
Bスプライン — Cox-de Boor の再帰式、ノットベクトル、NURBS
Bernstein 多項式 — Weierstrass 定理、Bézier 曲線
Chebyshev 補間 — Runge 現象回避、バリセントリック形式
Clenshaw 漸化式 — 後退漸化、直交多項式展開の安定評価

第 VI 部関数近似

近似理論 — 最良近似、$L^2$/$L^\infty$ ノルム、Remez 交換定理
Chebyshev 近似 — DCT、べき級数経済化、Clenshaw
Padé 近似 — 有理関数近似、連分数展開
ミニマックス近似 — Remez 交換定理、最適多項式
最小二乗法 — 正規方程式、QR 分解による解法
全最小二乗法 — EIV モデル、SVD による解
サビツキー＝ゴーレイフィルタ — 局所多項式最小二乗による平滑化・微分推定
ゼルニケ多項式 — 単位円板上の直交多項式、光学の波面収差分解

第 VII 部数値積分

Boole の公式 — Newton-Cotes 5 点公式、6 次精度
Richardson 外挿 — 誤差加速、$h \to 0$ の漸近展開
Romberg 積分 — 台形則 + Richardson 加速
Legendre-Gauss 求積 — 有限区間、$2n-1$ 次正確
Chebyshev 求積 — 等重み、Chebyshev 節点
Hermite-Gauss 求積 — 無限区間、重み $e^{-x^2}$
Gauss-Laguerre 求積 — 半無限区間、重み $e^{-x}$
Radau 求積 — 端点を 1 つ含む
Lobatto 求積 — 両端点を含む、Clenshaw-Curtis 系

第 VIII 部常微分方程式

常微分方程式の数値解法 — 改良オイラー法、局所打切り誤差
ルンゲ・クッタ法 — RK4、Butcher 表、埋め込み型、刻み幅制御
多段法 — 線形多段法、BDF、ゼロ安定性
Adams 法 — Adams-Bashforth、Adams-Moulton
予測子・修正子法 — PECE、Milne 法
陰的オイラー法 — A 安定、L 安定、Newton 反復
台形法 (ODE) — 2 次精度、A 安定、Crank-Nicolson
安定性解析と硬い方程式 — 絶対安定性、A安定性、Stiffness ratio、Dahlquist 障壁

第 IX 部非線形方程式

多項式の求根 — Aberth-Ehrlich 法、同時反復
スツルム列と実根の計数 — Sturm の定理、符号変移
Brent 法 — 二分法と逆二次補間のハイブリッド
Müller の方法 — 2 次補間、複素根対応、2 次収束
Halley の方法 — 3 次収束、Householder の高次反復
多変数 Newton 法 — Jacobi 行列、2 次収束、グローバル化
Broyden 法 — 準 Newton 近似、ランク 1 更新

第 X 部最適化 (→ 最適化シリーズへ移管)

数値最適化の各トピックは独立した「最適化」シリーズに集約された。重複を避けるため、当章では直接該当ページにリンクする。

数値最適化の基礎 — 最適性条件、最急降下法、収束の速さ
1次元探索 — 黄金分割法、Armijo 条件、Wolfe 条件
共役勾配法 — Fletcher-Reeves、Polak-Ribière
準 Newton 法 — BFGS、DFP、L-BFGS
非線形最小二乗法 — Gauss-Newton、Levenberg-Marquardt

第 XI 部フーリエ変換

離散フーリエ変換 (DFT) — 定義、逆変換、Parseval、回転因子
循環畳み込み — 畳み込み定理、overlap-add・overlap-save

前提知識

数値解析初級の内容
線形代数（行列、固有値、ベクトル空間）
微分積分、テイラー展開
微分方程式の基礎
複素数（DFT 章のみ）

読み物

解く前から負けている問題 ― 条件数という宿命［読み物］ — どんなに優れたアルゴリズムでも救えない問題がある。条件数が語る「問題そのものの感度」と、後退誤差の発想を気軽に語る。
文字の裏にある曲線 ― スプラインが世界をなめらかにする［読み物］ — 画面の文字、車のボディ、アニメの動き。少ない制御点でしなやかな曲線を生むスプラインの発想を、造船所のしなる物差しから語る。