微分の一般化マップ
A Map of Generalized Derivatives ― 方向微分・ガトー・フレシェ・劣微分・変分・双対
上級(大学院レベル)
1. はじめに ― 一つの問いと三つの軸
微分とは、つきつめれば「関数を局所的に最もよく近似する線形なもの」あるいは「変化率」を求める問いである。 この一つの問いは、次の三つの軸に沿って姿を変える。
- 軸①:どの方向を見るか ― 座標軸だけ(偏微分)か、任意方向(方向微分)か。
- 軸②:どんな空間か ― 有限次元 $\mathbb{R}^n$(方向微分)か、関数空間・バナッハ空間(ガトー微分/フレシェ微分)か。
- 軸③:近似の強さ・滑らかさ ― 方向ごとの弱い微分(ガトー)か、一様な最良線形近似(フレシェ)か。さらに滑らかさを手放すと、微分できない凸関数に対する集合値の劣微分や、微分を積分の意味に置き換える弱微分に至る。
これらに「双対」の視点(ルジャンドル=フェンシェル変換)と「応用の頂点」(変分法)を加えると、一枚の地図ができあがる。 本ページはその地図そのものである。各概念の詳細は専用ページへリンクしている。
2. 全体図(関係図)
「最良の線形近似」という中心の問いから、各概念がどう派生するかを示す。矢印は概念を組み立てる向き(対象・空間を広げる、条件を強める)を表し、矢印に添えた小さな文字が「何を変えたか」を表す。論理的な含意は逆向きになる(§3)。
3. 強さの階層(含意関係)
ノルム空間上の実数値写像について、各用語を上の意味で用いると次の含意が成り立つ。右へ行くほど弱い。
$$\underbrace{\text{フレシェ微分可能}}_{\text{一様・最良線形近似}} \;\Longrightarrow\; \underbrace{\text{ガトー微分可能}}_{\text{方向ごと・線形}} \;\Longrightarrow\; \underbrace{\text{全方向の方向微分が存在}}_{\text{線形とは限らない}} \;\Longrightarrow\; \underbrace{\text{偏微分が存在}}_{\text{軸方向のみ}}$$逆向きの矢印は追加条件のもとでのみ成り立つ:
- 偏微分が存在し連続($C^1$)$\Rightarrow$ フレシェ微分可能。
- ガトー導関数が近傍で存在し連続(作用素ノルム)$\Rightarrow$ フレシェ微分可能。
- 反例①:全方向の方向微分(ガトー変分)は存在するが、方向への依存が線形でないためガトー微分可能でない ― $f(x,y)=\dfrac{x^2y}{x^4+y^2}$(方向微分 §7)、$f(x,y)=\dfrac{x^3}{x^2+y^2}$(ガトー微分 §5)。いずれも原点で $D_{\mathbf h}f$ が $\mathbf h$ の線形関数にならない。
- 反例②:ガトー微分可能だがフレシェ微分可能でない ― $f(x,y)=\dfrac{x^3y}{x^6+y^2}$(原点では $0$)。任意の $\mathbf h=(a,b)$ について $\lim_{t\to0}\dfrac{f(t\mathbf h)}{t}=0$ なのでガトー導関数は零写像(線形)だが、曲線 $y=x^3$ 上では $f(x,x^3)=\tfrac12$ となり原点で連続ですらない。連続でなければフレシェ微分可能ではありえない。
方向微分とガトー微分の呼び分けは約束である
本ページでは、有限次元 $\mathbb{R}^n$ で各方向の変化率を見る場合を方向微分、一般のノルム空間で方向依存性が線形写像になる場合をガトー微分と呼び分けている。数学的には方向微分も一般の線形空間で定義でき、文献によっては線形性を課さないガトー変分と、課すガトー微分を区別する。本質的な違いは有限次元か否かではなく、①方向ごとの極限か、②方向依存が一つの線形写像を作るか、③残差評価が全方向に一様か、の三段階にある。
非平滑・双対の軸は別物
上の階層は「滑らかさを強める」方向の話。これとは直交して、滑らかさを手放す方向に進むと劣微分(集合値)や弱微分(積分の意味での微分)になり、変数を入れ替える方向に進むとルジャンドル=フェンシェル変換(双対)になる。これらは含意の鎖の「外側」にある拡張である。
4. 比較表
| 概念 | 定義の核 | 主な舞台 | 値の型 | 線形性 | 代表的用途 |
|---|---|---|---|---|---|
| 偏微分 | $\dfrac{\partial f}{\partial x_i}$(軸方向の極限) | $\mathbb{R}^n$ | スカラー | ― | 勾配・ヤコビの成分 |
| 方向微分 | $\lim\limits_{t\to0}\dfrac{f(\mathbf a+t\mathbf u)-f(\mathbf a)}{t}$ | $\mathbb{R}^n$ | スカラー | $\mathbf u$ に線形とは限らない | 最急降下・等高線の幾何 |
| ガトー微分 | $\lim\limits_{t\to0}\dfrac{f(x+th)-f(x)}{t}$(各 $h$) | ノルム空間(関数空間) | スカラー/ベクトル | 線形になれば導関数 | 第一変分・関数空間の最適化 |
| フレシェ微分 | $\dfrac{\lVert f(x+h)-f(x)-Ah\rVert}{\lVert h\rVert}\to0$ | バナッハ空間 | 有界線形作用素 | つねに線形(有界) | ニュートン法・陰関数定理 |
| 劣微分 | $\{g: f(y)\ge f(x)+\langle g,y-x\rangle\}$ | 凸関数(非平滑可) | 集合(凸集合) | 支持超平面の傾き全体 | 非平滑最適化・劣勾配法 |
| 弱微分 | $\displaystyle\int u\,\varphi'\,dx=-\int v\,\varphi\,dx$($\forall\varphi\in C_c^\infty$) | 局所可積分関数($L^1_{\mathrm{loc}}$) | 関数(a.e. の同値類) | 線形(超関数として) | ソボレフ空間・PDE の弱解・有限要素法 |
| ルジャンドル= フェンシェル変換 |
$f^*(p)=\sup_x(\langle p,x\rangle-f(x))$ | 凸関数 | 関数(双対側の関数) | 閉真凸関数の範囲で対合($f^{**}=f$) | 双対性・ハミルトニアン・熱力学 |
| 第一変分/変分法 | $\delta J(y;\eta)=\dfrac{d}{dt}J[y+t\eta]\big|_{0}$ | 汎関数(関数空間) | スカラー | ガトー微分が存在すれば $\eta$ に線形 | オイラー・ラグランジュ・最小作用 |
5. つながりの物語
5.1 偏微分 → 方向微分(座標から任意方向へ)
偏微分は方向を座標軸 $\mathbf e_i$ に固定した方向微分にすぎない。任意の単位ベクトル $\mathbf u$ を許すと、微分可能な関数では $D_{\mathbf u}f=\nabla f\cdot\mathbf u=\lVert\nabla f\rVert\cos\theta$ となり、勾配方向が最急上昇という幾何が見える。詳しくは方向微分。
5.2 方向微分 → ガトー微分(有限次元から関数空間へ)
定義式は足し算とスカラー倍しか使わないので、$\mathbf a,\mathbf u$ を関数に置き換えても通用する。 これがガトー微分で、汎関数に対しては第一変分 $\delta J(y;\eta)$ そのものになる。 有限次元で見た「全方向の微分があっても微分可能とは限らない」落とし穴も、そのまま受け継がれる。
5.3 ガトー微分 → フレシェ微分(弱から強へ)
ガトーは方向ごとに極限をとる弱い微分。フレシェ微分は $\lVert h\rVert\to0$ を全方向一様に課し、残差を $o(\lVert h\rVert)$ に抑える「最良の線形近似」。 強さの代償に連鎖律・平均値不等式などが綺麗に成り立ち、有限次元では全微分(ヤコビ行列)に一致する。
5.4 非平滑への拡張:劣微分
$f(x)=|x|$ のように折れ目をもつ凸関数は原点で微分できない。しかし「グラフを下から支える直線(支持超平面)」は無数に引ける。 その傾きの全体を集めた集合が劣微分 $\partial f(x)$ である。 微分可能点では $\partial f(x)=\{\nabla f(x)\}$ という一点集合になり、通常の微分を含む。集合値という点で他とは毛色が違う一般化である。
5.5 積分へ移す拡張:弱微分
もう一つの「滑らかさを手放す」道が弱微分である。こちらは各点の極限をあきらめ、 部分積分の公式 $\int u'\varphi\,dx=-\int u\varphi'\,dx$ を定義に採用する。 右辺は $u$ を微分していないので、$u$ が滑らかでなくても意味を持つ。コンパクト台を持つ滑らかなテスト関数 $\varphi$ すべてに対して この等式を満たす関数 $v$ を $u$ の弱微分と呼ぶ。$|x|$ の弱微分は $\operatorname{sgn}(x)$ になり、跳びを持つ階段関数では $L^1_{\mathrm{loc}}$ の関数として表される弱微分は存在せず、超関数の世界で $H'=\delta$ となる。
劣微分が「凸性を使って値を集合へ広げる」拡張だったのに対し、弱微分は「測り方を積分へ移す」拡張である。 この一手により、微分の操作が極限で閉じた完備な空間(ソボレフ空間)が作れ、 偏微分方程式の弱解・有限要素法の理論的な土台になる。
5.6 双対の視点:ルジャンドル=フェンシェル変換
関数を「各点の値」でなく「接線の傾きと切片」で記述し直すのがルジャンドル=フェンシェル変換 $f^*(p)=\sup_x(\langle p,x\rangle-f(x))$。 $f$ が真凸かつ下半連続(閉真凸)であれば、非平滑でも劣微分を使って $p\in\partial f(x)\Leftrightarrow x\in\partial f^*(p)$ という美しい双対が成り立つ(フェンシェル=モローの定理)。 さらに $f$ が狭義凸で微分可能なら、$p=\nabla f(x)$ と $x=\nabla f^*(p)$ は対応する領域上で互いに逆写像になる。 単に微分可能というだけでは $\nabla f$ が単射とは限らず、逆写像は定まらない。フェンシェル=ヤングの不等式 $f(x)+f^*(p)\ge\langle x,p\rangle$ が両者を結ぶ。
5.7 応用の頂点:変分法
汎関数の第一変分(=ガトー微分)をゼロにする停留条件からオイラー・ラグランジュ方程式が出る。 最速降下線・測地線・最小作用の原理など、物理と幾何の基本法則がこの一般化微分の言葉で書ける。変分法を参照。
6. どれを使うべきか(早見)
- 有限次元で「ある向きの変化率」だけ知りたい → 方向微分。
- 関数空間で停留条件を立てたい(変分問題) → ガトー微分=第一変分。
- 連鎖律・ニュートン法・陰関数定理など「微分らしい定理」を厳密に使いたい → フレシェ微分。
- 目的関数が折れ目をもつ(L1 正則化・ヒンジ損失など) → 劣微分。
- 解が滑らかとは限らない微分方程式を扱いたい・有限要素法を正当化したい → 弱微分とソボレフ空間。
- 変数(座標↔運動量、$S$↔$T$)を入れ替えたい・双対問題を作りたい → ルジャンドル=フェンシェル変換。
有限次元の「姿」も忘れずに
本ページは「微分の一般化(無限次元・非平滑・双対へ)」の地図だが、同じ微分が有限次元の中で勾配・ヤコビ・ヘッセ・微分演算子と姿を変える話は微分の七変化にまとまっている。あわせて読むと立体的になる。
7. よくある質問
Q1. 方向微分・ガトー微分・フレシェ微分はどう関係しているか
三者は同じ定義式を、舞台(有限次元/無限次元)と強さ(方向ごと/一様)を変えて使ったものである。フレシェ ⇒ ガトー ⇒ 方向微分 ⇒ 偏微分という含意があり、逆向きは連続性などの追加条件のもとでのみ成り立つ。
Q2. 劣微分やルジャンドル=フェンシェル変換はこの地図のどこに入るか
劣微分は「滑らかさを手放す」方向の拡張(集合値)、ルジャンドル=フェンシェル変換は「変数を入れ替える」双対の軸である。両者は $p\in\partial f(x)\Leftrightarrow x\in\partial f^*(p)$ とフェンシェル=ヤングの不等式で結びつく。
Q3. 第一変分と変分法はどの微分にあたるか
汎関数のガトー微分(第一変分)の応用である。$\delta J(y;\eta)=0$ という停留条件からオイラー・ラグランジュ方程式が導かれる。