微分の一般化マップ

A Map of Generalized Derivatives ― 方向微分・ガトー・フレシェ・劣微分・変分・双対

上級(大学院レベル)

1. はじめに ― 一つの問いと三つの軸

微分とは、つきつめれば「関数を局所的に最もよく近似する線形なもの」あるいは「変化率」を求める問いである。 この一つの問いは、次の三つの軸に沿って姿を変える。

  • 軸①:どの方向を見るか ― 座標軸だけ(偏微分)か、任意方向(方向微分)か。
  • 軸②:どんな空間か ― 有限次元 $\mathbb{R}^n$(方向微分)か、関数空間・バナッハ空間(ガトー微分フレシェ微分)か。
  • 軸③:近似の強さ・滑らかさ ― 方向ごとの弱い微分(ガトー)か、一様な最良線形近似(フレシェ)か。さらに滑らかさを手放すと、微分できない凸関数に対する集合値の劣微分や、微分を積分の意味に置き換える弱微分に至る。

これらに「双対」の視点(ルジャンドル=フェンシェル変換)と「応用の頂点」(変分法)を加えると、一枚の地図ができあがる。 本ページはその地図そのものである。各概念の詳細は専用ページへリンクしている。

2. 全体図(関係図)

「最良の線形近似」という中心の問いから、各概念がどう派生するかを示す。矢印は概念を組み立てる向き(対象・空間を広げる、条件を強める)を表し、矢印に添えた小さな文字が「何を変えたか」を表す。論理的な含意は逆向きになる(§3)。

中心の問い:最良の線形近似 = 変化率 空間・滑らかさ・近似の強さを変えると、姿を変える 任意方向へ 関数空間へ 一様性を課す 汎関数なら δJ=0 部分積分で テスト関数へ 非平滑・凸へ 勾配の双対 ∂f ↔ f* 偏微分 座標軸方向のみ 方向微分 任意方向の変化率(Rⁿ) ガトー微分 関数空間・方向ごと(弱) フレシェ微分 一様・最良線形近似(強)=全微分 第一変分 δJ 汎関数のガトー微分 変分法 オイラー・ラグランジュ方程式 弱微分 積分の意味で微分 超関数・ソボレフ空間 劣微分 ∂f 非平滑・凸/集合値 ルジャンドル=フェンシェル変換 凸共役 f*・双対変数 ― 矢印=概念の展開(含意は逆向き)→ 下段の三つは、含意の鎖の「外側」にある拡張(滑らかさを手放す/変数を入れ替える)
図1. 微分の一般化マップ。中央の横列が中心の流れ:偏微分 → 方向微分 → ガトー微分 → フレシェ微分。 矢印は概念を組み立てる流れ(対象・空間を広げる、条件を強める)を表しており、論理的な含意の向きは逆(フレシェ ⇒ ガトー ⇒ 方向微分 ⇒ 偏微分、§3)である点に注意。 上へ「第一変分 → 変分法」、下へ「弱微分」「劣微分」「ルジャンドル=フェンシェル変換」が枝分かれする。 下段左の二つは同じ「滑らかさを手放す」向きの拡張だが、道は別で、弱微分は微分をテスト関数へ移して各点の値をあきらめ、劣微分は凸性を使って各点の値を集合へ広げる。 各ノードの解説は下の関連ページにまとめてある。

3. 強さの階層(含意関係)

ノルム空間上の実数値写像について、各用語を上の意味で用いると次の含意が成り立つ。右へ行くほど弱い。

$$\underbrace{\text{フレシェ微分可能}}_{\text{一様・最良線形近似}} \;\Longrightarrow\; \underbrace{\text{ガトー微分可能}}_{\text{方向ごと・線形}} \;\Longrightarrow\; \underbrace{\text{全方向の方向微分が存在}}_{\text{線形とは限らない}} \;\Longrightarrow\; \underbrace{\text{偏微分が存在}}_{\text{軸方向のみ}}$$

逆向きの矢印は追加条件のもとでのみ成り立つ:

  • 偏微分が存在し連続($C^1$)$\Rightarrow$ フレシェ微分可能。
  • ガトー導関数が近傍で存在し連続(作用素ノルム)$\Rightarrow$ フレシェ微分可能。
  • 反例①:全方向の方向微分(ガトー変分)は存在するが、方向への依存が線形でないためガトー微分可能でない ― $f(x,y)=\dfrac{x^2y}{x^4+y^2}$(方向微分 §7)、$f(x,y)=\dfrac{x^3}{x^2+y^2}$(ガトー微分 §5)。いずれも原点で $D_{\mathbf h}f$ が $\mathbf h$ の線形関数にならない。
  • 反例②:ガトー微分可能だがフレシェ微分可能でない ― $f(x,y)=\dfrac{x^3y}{x^6+y^2}$(原点では $0$)。任意の $\mathbf h=(a,b)$ について $\lim_{t\to0}\dfrac{f(t\mathbf h)}{t}=0$ なのでガトー導関数は零写像(線形)だが、曲線 $y=x^3$ 上では $f(x,x^3)=\tfrac12$ となり原点で連続ですらない。連続でなければフレシェ微分可能ではありえない。

方向微分とガトー微分の呼び分けは約束である

本ページでは、有限次元 $\mathbb{R}^n$ で各方向の変化率を見る場合を方向微分、一般のノルム空間で方向依存性が線形写像になる場合をガトー微分と呼び分けている。数学的には方向微分も一般の線形空間で定義でき、文献によっては線形性を課さないガトー変分と、課すガトー微分を区別する。本質的な違いは有限次元か否かではなく、①方向ごとの極限か、②方向依存が一つの線形写像を作るか、③残差評価が全方向に一様か、の三段階にある。

非平滑・双対の軸は別物

上の階層は「滑らかさを強める」方向の話。これとは直交して、滑らかさを手放す方向に進むと劣微分(集合値)や弱微分(積分の意味での微分)になり、変数を入れ替える方向に進むとルジャンドル=フェンシェル変換(双対)になる。これらは含意の鎖の「外側」にある拡張である。

4. 比較表

概念定義の核主な舞台値の型線形性代表的用途
偏微分 $\dfrac{\partial f}{\partial x_i}$(軸方向の極限) $\mathbb{R}^n$ スカラー 勾配・ヤコビの成分
方向微分 $\lim\limits_{t\to0}\dfrac{f(\mathbf a+t\mathbf u)-f(\mathbf a)}{t}$ $\mathbb{R}^n$ スカラー $\mathbf u$ に線形とは限らない 最急降下・等高線の幾何
ガトー微分 $\lim\limits_{t\to0}\dfrac{f(x+th)-f(x)}{t}$(各 $h$) ノルム空間(関数空間) スカラー/ベクトル 線形になれば導関数 第一変分・関数空間の最適化
フレシェ微分 $\dfrac{\lVert f(x+h)-f(x)-Ah\rVert}{\lVert h\rVert}\to0$ バナッハ空間 有界線形作用素 つねに線形(有界) ニュートン法・陰関数定理
劣微分 $\{g: f(y)\ge f(x)+\langle g,y-x\rangle\}$ 凸関数(非平滑可) 集合(凸集合) 支持超平面の傾き全体 非平滑最適化・劣勾配法
弱微分 $\displaystyle\int u\,\varphi'\,dx=-\int v\,\varphi\,dx$($\forall\varphi\in C_c^\infty$) 局所可積分関数($L^1_{\mathrm{loc}}$) 関数(a.e. の同値類) 線形(超関数として) ソボレフ空間・PDE の弱解・有限要素法
ルジャンドル=
フェンシェル変換
$f^*(p)=\sup_x(\langle p,x\rangle-f(x))$ 凸関数 関数(双対側の関数) 閉真凸関数の範囲で対合($f^{**}=f$) 双対性・ハミルトニアン・熱力学
第一変分/変分法 $\delta J(y;\eta)=\dfrac{d}{dt}J[y+t\eta]\big|_{0}$ 汎関数(関数空間) スカラー ガトー微分が存在すれば $\eta$ に線形 オイラー・ラグランジュ・最小作用

5. つながりの物語

5.1 偏微分 → 方向微分(座標から任意方向へ)

偏微分は方向を座標軸 $\mathbf e_i$ に固定した方向微分にすぎない。任意の単位ベクトル $\mathbf u$ を許すと、微分可能な関数では $D_{\mathbf u}f=\nabla f\cdot\mathbf u=\lVert\nabla f\rVert\cos\theta$ となり、勾配方向が最急上昇という幾何が見える。詳しくは方向微分

5.2 方向微分 → ガトー微分(有限次元から関数空間へ)

定義式は足し算とスカラー倍しか使わないので、$\mathbf a,\mathbf u$ を関数に置き換えても通用する。 これがガトー微分で、汎関数に対しては第一変分 $\delta J(y;\eta)$ そのものになる。 有限次元で見た「全方向の微分があっても微分可能とは限らない」落とし穴も、そのまま受け継がれる。

5.3 ガトー微分 → フレシェ微分(弱から強へ)

ガトーは方向ごとに極限をとる弱い微分。フレシェ微分は $\lVert h\rVert\to0$ を全方向一様に課し、残差を $o(\lVert h\rVert)$ に抑える「最良の線形近似」。 強さの代償に連鎖律・平均値不等式などが綺麗に成り立ち、有限次元では全微分ヤコビ行列)に一致する。

5.4 非平滑への拡張:劣微分

$f(x)=|x|$ のように折れ目をもつ凸関数は原点で微分できない。しかし「グラフを下から支える直線(支持超平面)」は無数に引ける。 その傾きの全体を集めた集合が劣微分 $\partial f(x)$ である。 微分可能点では $\partial f(x)=\{\nabla f(x)\}$ という一点集合になり、通常の微分を含む。集合値という点で他とは毛色が違う一般化である。

5.5 積分へ移す拡張:弱微分

もう一つの「滑らかさを手放す」道が弱微分である。こちらは各点の極限をあきらめ、 部分積分の公式 $\int u'\varphi\,dx=-\int u\varphi'\,dx$ を定義に採用する。 右辺は $u$ を微分していないので、$u$ が滑らかでなくても意味を持つ。コンパクト台を持つ滑らかなテスト関数 $\varphi$ すべてに対して この等式を満たす関数 $v$ を $u$ の弱微分と呼ぶ。$|x|$ の弱微分は $\operatorname{sgn}(x)$ になり、跳びを持つ階段関数では $L^1_{\mathrm{loc}}$ の関数として表される弱微分は存在せず、超関数の世界で $H'=\delta$ となる。

劣微分が「凸性を使って値を集合へ広げる」拡張だったのに対し、弱微分は「測り方を積分へ移す」拡張である。 この一手により、微分の操作が極限で閉じた完備な空間(ソボレフ空間)が作れ、 偏微分方程式の弱解・有限要素法の理論的な土台になる。

5.6 双対の視点:ルジャンドル=フェンシェル変換

関数を「各点の値」でなく「接線の傾きと切片」で記述し直すのがルジャンドル=フェンシェル変換 $f^*(p)=\sup_x(\langle p,x\rangle-f(x))$。 $f$ が真凸かつ下半連続(閉真凸)であれば、非平滑でも劣微分を使って $p\in\partial f(x)\Leftrightarrow x\in\partial f^*(p)$ という美しい双対が成り立つ(フェンシェル=モローの定理)。 さらに $f$ が狭義凸で微分可能なら、$p=\nabla f(x)$ と $x=\nabla f^*(p)$ は対応する領域上で互いに逆写像になる。 単に微分可能というだけでは $\nabla f$ が単射とは限らず、逆写像は定まらない。フェンシェル=ヤングの不等式 $f(x)+f^*(p)\ge\langle x,p\rangle$ が両者を結ぶ。

5.7 応用の頂点:変分法

汎関数の第一変分(=ガトー微分)をゼロにする停留条件からオイラー・ラグランジュ方程式が出る。 最速降下線・測地線・最小作用の原理など、物理と幾何の基本法則がこの一般化微分の言葉で書ける。変分法を参照。

6. どれを使うべきか(早見)

  • 有限次元で「ある向きの変化率」だけ知りたい → 方向微分
  • 関数空間で停留条件を立てたい(変分問題) → ガトー微分第一変分
  • 連鎖律・ニュートン法・陰関数定理など「微分らしい定理」を厳密に使いたい → フレシェ微分
  • 目的関数が折れ目をもつ(L1 正則化・ヒンジ損失など) → 劣微分
  • 解が滑らかとは限らない微分方程式を扱いたい・有限要素法を正当化したい → 弱微分ソボレフ空間
  • 変数(座標↔運動量、$S$↔$T$)を入れ替えたい・双対問題を作りたい → ルジャンドル=フェンシェル変換

有限次元の「姿」も忘れずに

本ページは「微分の一般化(無限次元・非平滑・双対へ)」の地図だが、同じ微分が有限次元の中で勾配・ヤコビ・ヘッセ・微分演算子と姿を変える話は微分の七変化にまとまっている。あわせて読むと立体的になる。

7. よくある質問

Q1. 方向微分・ガトー微分・フレシェ微分はどう関係しているか

三者は同じ定義式を、舞台(有限次元/無限次元)と強さ(方向ごと/一様)を変えて使ったものである。フレシェ ⇒ ガトー ⇒ 方向微分 ⇒ 偏微分という含意があり、逆向きは連続性などの追加条件のもとでのみ成り立つ。

Q2. 劣微分やルジャンドル=フェンシェル変換はこの地図のどこに入るか

劣微分は「滑らかさを手放す」方向の拡張(集合値)、ルジャンドル=フェンシェル変換は「変数を入れ替える」双対の軸である。両者は $p\in\partial f(x)\Leftrightarrow x\in\partial f^*(p)$ とフェンシェル=ヤングの不等式で結びつく。

Q3. 第一変分と変分法はどの微分にあたるか

汎関数のガトー微分(第一変分)の応用である。$\delta J(y;\eta)=0$ という停留条件からオイラー・ラグランジュ方程式が導かれる。

Q4. 弱微分と劣微分はどちらも微分できない関数を扱うが、何が違うか

拡張の方向が違う。弱微分は微分を部分積分でテスト関数へ移し、各点の値をあきらめる代わりに凸性を仮定せず多変数・高階まで扱える(ソボレフ空間・PDE の弱解)。劣微分は凸性を使って各点ごとに「支える直線の傾きの集合」を与えるので、値は集合になるが各点の情報は残る(非平滑最適化)。

Q5. ガトー微分も弱微分と呼ばれることがあるのはなぜか

関数解析では、フレシェ微分(強微分)と対にしてガトー微分を弱微分(weak differential)と呼ぶ流儀があるためである。本ページで弱微分と呼んでいるのはソボレフ流の weak derivative(部分積分で定義するもの)で、別の概念である。テスト関数と部分積分が出てくればソボレフ流、方向 $h$ に沿った極限が出てくればガトー流と読み分ければよい。