ルジャンドル変換
Legendre Transform
上級(大学院レベル)
1. はじめに
ルジャンドル変換は、凸関数を「別の変数」——傾きに対応する双対変数——で記述し直す変換である。 関数の値そのものではなく、接線の傾きと切片の関係に着目することで、独立変数を自然に入れ替えることができる。 この変換は18世紀にアドリアン=マリ・ルジャンドルが導入し、 現在ではハミルトン力学、熱力学、凸最適化など広範な分野の基盤となっている。
本稿では、まず1変数の凸関数に対する定義を与え、幾何学的な意味を明らかにした後、 対合性や凸性の保存といった基本性質を示す。 さらに多変数への一般化と、物理学・最適化への応用を扱う。
2. 定義
ルジャンドル変換(凸共役)
関数 $f: \mathbb{R} \to \mathbb{R} \cup \{+\infty\}$ に対して、そのルジャンドル変換(凸共役、Fenchel 共役)を
$$f^*(p) = \sup_{x \in \mathbb{R}} \bigl( px - f(x) \bigr)$$と定義する。ここで $p$ を双対変数(共役変数)と呼ぶ。
本記事では「ルジャンドル変換」を、上の $\sup$ で定義される凸共役(Legendre–Fenchel 変換)と同じ意味で用いる。 厳密には、$f$ が微分可能な狭義凸関数のとき $p = f'(x)$ を解いて $f^*(p) = px - f(x)$ と陽に書ける古典的操作を狭義の「ルジャンドル変換」と呼び、 一般の凸関数へ $\sup$ で拡張したものを Legendre–Fenchel 変換(凸共役)と区別することもある。両者は狭義凸で微分可能な場合に一致する。
最大値 (max) ではなく上限 (sup) を用いるのは、一般の凸関数では最大値が存在するとは限らないためである。
$f$ が微分可能な狭義凸関数である場合、上限は $p = f'(x)$ を満たす点 $x = x(p)$ で最大値として達成される。 このとき
$$f^*(p) = p\, x(p) - f\bigl(x(p)\bigr)$$が成り立つ。すなわち $p = f'(x)$ の関係で $x$ と $p$ が1対1に対応し、 独立変数が $x$ から $p$ に入れ替わる。
3. 幾何学的解釈
ルジャンドル変換の幾何学的意味は明快である。 傾き $p$ の直線 $y = px$ と関数 $y = f(x)$ の差 $px - f(x)$ を最大化するということは、 傾き $p$ をもち $f$ のグラフに接する直線の $y$ 切片(の符号反転)を求めることに他ならない。
図1:幾何学的解釈
傾き $p$ の接線の $y$ 切片は $f(x_0) - p x_0 = -f^*(p)$ である。 すなわち $f^*(p)$ は接線の切片の符号反転に等しい。 関数 $f$ を「各点の値」で記述する代わりに「接線族の切片」で記述するのがルジャンドル変換の本質である。
$px$ の直線から接線へ — なぜ切片が現れるのか
定義に現れる $px$ は、原点を通る傾き $p$ の直線 $y = px$ である。 各点 $x$ における $px - f(x)$ は、この直線の高さ $px$ から曲線の高さ $f(x)$ を引いた 縦方向の差(隙間)にほかならない。したがって $f^*(p) = \sup_{x}\,\bigl( px - f(x) \bigr)$ とは、 「直線 $y = px$ と曲線 $y = f(x)$ の縦の隙間が、$x$ を動かしたとき最大でどれだけ開くか」を測る量である。
隙間が最大になる点 $x_0$ では、$px - f(x)$ を $x$ で微分した $\dfrac{d}{dx}\bigl( px - f(x) \bigr) = p - f'(x)$ が $0$ になる。すなわち
$$ f'(x_0) = p $$が成り立ち、曲線の接線の傾きがちょうど $p$ に一致する点で隙間は最大になる。 その最大の隙間こそ $f^*(p) = p\,x_0 - f(x_0)$ である。
ここで注意したいのは、図1の赤い破線は定義の直線 $y = px$ そのものではないという点である。 直線 $y = px$ を傾きを保ったまま真下へ平行移動させていくと、やがて凸曲線に下から接する。 ちょうど接した瞬間に止めたものが図の接線であり、下げた量はちょうど最大の隙間 $f^*(p)$ に等しい。 よって接線の式は
$$ y = px - f^*(p) $$となる。$y = px$ と接線は同じ傾き $p$ をもつ平行な2直線であり、その縦の間隔が一定値 $f^*(p)$ である。 その結果、接線の $y$ 切片($x = 0$ での高さ)は $-f^*(p)$ となって原点より下にずれる。 これが「図の直線が原点を通らない」理由である。 実際、接線 $y = f(x_0) + p(x - x_0)$ に $x = 0$ を代入すれば、切片は $f(x_0) - p\,x_0 = -\bigl( p\,x_0 - f(x_0) \bigr) = -f^*(p)$ と確かめられる。
以上より、ルジャンドル変換 $f^*(p)$ は同じ量の3通りの言い換えとして理解できる。
- 直線 $y = px$ と曲線 $y = f(x)$ の縦の隙間の最大値。
- 傾き $p$ の直線 $y = px$ を曲線に接するまで下げた距離。
- 傾き $p$ の接線の$y$ 切片の符号を反転した値。
4. 対合性
Fenchel-Moreau の定理(対合性)
$f: \mathbb{R}^n \to \mathbb{R} \cup \{+\infty\}$ が下半連続な真凸関数であるとき
$$f^{**} = f$$が成り立つ。すなわちルジャンドル変換は対合(involution)である。
証明の概略(1変数の場合)
定義より
$$f^{**}(x) = \sup_{p} \bigl( px - f^*(p) \bigr) = \sup_{p} \Bigl( px - \sup_{y}\bigl(py - f(y)\bigr) \Bigr)$$任意の $p, y$ に対して $px - (py - f(y)) = p(x-y) + f(y) \geq f(x)$(凸性による)から $f^{**}(x) \leq f(x)$。一方 $p = f'(x)$ を代入すれば等号が達成されるので $f^{**}(x) = f(x)$。
ここでは微分可能な狭義凸関数に対する要点のみを示した。微分可能性を仮定しない一般の下半連続な真凸関数に対する完全な証明には、凸集合の分離定理(supporting hyperplane theorem)を用いて、$f$ のエピグラフが supporting 直線(affine minorant)の上包絡として表せることを示す必要がある。
図2:対合 $f \to f^* \to f$
変換 $\mathcal{L}$ を2回適用すると元の関数に戻る。 これは関数を接線族に分解し、その接線族から包絡線として関数を復元する操作に対応する。
5. 性質
凸性の保存
$f^*(p)$ は常に凸関数である($f$ が凸であるか否かに関わらない)。
証明
各 $x$ に対して $g_x(p) = px - f(x)$ は $p$ の1次関数(凸かつ凹)。$f^*(p) = \sup_x g_x(p)$ は凸関数の上限であり、凸関数の点ごとの上限は凸であるから $f^*$ は凸である。
変数の双対性
$f$ が微分可能な狭義凸関数のとき、以下の双対関係が成り立つ:
$$p = f'(x) \quad \Longleftrightarrow \quad x = (f^*)'(p)$$すなわち $f$ と $f^*$ の微分は互いに逆関数の関係にある。
証明
$f$ は微分可能な狭義凸関数なので、上限 $f^*(p) = \sup_x\bigl(px - f(x)\bigr)$ を達成する $x$ は、$\dfrac{d}{dx}\bigl(px - f(x)\bigr) = p - f'(x) = 0$、すなわち
$$p = f'(x)$$を満たす唯一の点 $x = x(p)$ である(狭義凸性より $f'$ は狭義単調増加ゆえ全単射で、$x(p) = (f')^{-1}(p)$)。この $x(p)$ を用いて $f^*(p) = p\,x(p) - f\bigl(x(p)\bigr)$ を $p$ で微分すると、$f'\bigl(x(p)\bigr) = p$ に注意して
$$(f^*)'(p) = x(p) + p\,x'(p) - f'\bigl(x(p)\bigr)\,x'(p) = x(p) + \bigl(p - f'(x(p))\bigr)x'(p) = x(p)$$を得る。$x(p) = x$ だから $x = (f^*)'(p)$。逆も同様に従い、$p = f'(x) \Leftrightarrow x = (f^*)'(p)$ が成り立つ。これは $(f^*)' = (f')^{-1}$、すなわち $f'$ と $(f^*)'$ が互いに逆関数であることを意味する。$\blacksquare$
ヤングの不等式
任意の $x, p$ に対して
$$f(x) + f^*(p) \geq px$$が成り立つ。等号は $p = f'(x)$ のとき、かつそのときに限り成立する。
証明
定義 $f^*(p) = \sup_{y}\bigl(py - f(y)\bigr)$ は $y$ についての上限なので、特に $y = x$ とおいた値以上である:
$$f^*(p) \;\geq\; px - f(x).$$移項すれば $f(x) + f^*(p) \geq px$ を得る。等号が成り立つのは上限が $y = x$ で達成されるとき、すなわち $py - f(y)$ が $y = x$ で最大値をとるときである。$f$ が凸なら $py - f(y)$ は凹だから、最大の条件は停留条件 $\dfrac{d}{dy}\bigl(py - f(y)\bigr)\big|_{y=x} = p - f'(x) = 0$、つまり $p = f'(x)$ と同値である。よって等号は $p = f'(x)$ のとき、かつそのときに限り成立する。$\blacksquare$
スケーリング則
- $g(x) = \lambda f(x)$ ($\lambda > 0$) ならば $g^*(p) = \lambda\, f^*\!\left(\dfrac{p}{\lambda}\right)$
- $g(x) = f(x) + c$ ならば $g^*(p) = f^*(p) - c$
- $g(x) = f(x - a)$ ならば $g^*(p) = f^*(p) + ap$
証明
いずれも定義 $g^*(p) = \sup_x\bigl(px - g(x)\bigr)$ に代入し、定数や置換を上限の外へ出すだけで示せる。
(1) $g(x) = \lambda f(x)$($\lambda > 0$): 正の定数 $\lambda$ は上限の外に括り出せるので
$$g^*(p) = \sup_x\bigl(px - \lambda f(x)\bigr) = \lambda \sup_x\Bigl(\tfrac{p}{\lambda}\,x - f(x)\Bigr) = \lambda\, f^*\!\Bigl(\tfrac{p}{\lambda}\Bigr).$$(2) $g(x) = f(x) + c$: 定数 $c$ は $x$ に依らないので上限の外に出て
$$g^*(p) = \sup_x\bigl(px - f(x) - c\bigr) = \sup_x\bigl(px - f(x)\bigr) - c = f^*(p) - c.$$(3) $g(x) = f(x - a)$: $y = x - a$($x = y + a$)と置換すると
$$g^*(p) = \sup_x\bigl(px - f(x-a)\bigr) = \sup_y\bigl(p(y+a) - f(y)\bigr) = \sup_y\bigl(py - f(y)\bigr) + ap = f^*(p) + ap.$$$\blacksquare$
6. 具体例
例1:$f(x) = x^2$
$p = f'(x) = 2x$ より $x = p/2$。したがって
$$f^*(p) = p \cdot \dfrac{p}{2} - \left(\dfrac{p}{2}\right)^2 = \dfrac{p^2}{2} - \dfrac{p^2}{4} = \dfrac{p^2}{4}$$検算:$(f^*)'(p) = p/2 = x$ となり、変数の双対性が確認できる。
対合性の検証:$f^*(p) = p^2/4$ に対して $f^{**}(x) = \sup_p(px - p^2/4)$。$\dfrac{d}{dp}(px - p^2/4) = x - p/2 = 0$ より $p = 2x$。$f^{**}(x) = 2x \cdot x - (2x)^2/4 = x^2 = f(x)$。
図3:$f$ とその共役 $f^*$ はともに下に凸の放物線で、$f$ が急(係数 $1$)なほど $f^*$ は緩やか(係数 $1/4$)になる。
例2:$f(x) = e^x$
$p = f'(x) = e^x > 0$ より $x = \ln p$($p > 0$ のとき)。
$$f^*(p) = p \ln p - p \qquad (p > 0)$$$p \leq 0$ のとき $px - e^x \to -\infty$($x \to +\infty$ で $e^x$ が支配)、上限は定義できないので $f^*(p) = +\infty$ とする(あるいは $f^*$ の定義域を $p > 0$ に制限する)。
図4:$f(x)=e^x$ の共役は $f^*(p)=p\ln p - p$(定義域 $p>0$、$p=1$ で最小値 $-1$、$p\to 0^+$ で $f^*\to 0$)。
例3:$f(x) = |x|^p / p$($p > 1$)
$q = p/(p-1)$(ヘルダー共役指数)として
$$f^*(s) = \dfrac{|s|^q}{q}$$これはヤングの不等式 $|xs| \leq |x|^p/p + |s|^q/q$ の等号条件に対応する。
図5:べき関数の共役はべき関数で、指数 $p$ と $q = \dfrac{p}{p-1}$ は双対の関係にある(ここでは $p = 3,\ q = \tfrac{3}{2}$)。$f$ の底が平らなほど共役 $f^*$ の底は尖る。
7. 多変数への一般化
多変数ルジャンドル変換
$f: \mathbb{R}^n \to \mathbb{R} \cup \{+\infty\}$ に対して
$$f^*(\mathbf{p}) = \sup_{\mathbf{x} \in \mathbb{R}^n} \bigl( \mathbf{p} \cdot \mathbf{x} - f(\mathbf{x}) \bigr)$$ここで $\mathbf{p} \cdot \mathbf{x} = \displaystyle\sum_{i=1}^n p_i x_i$ は内積である。
$f$ が微分可能な狭義凸関数の場合、上限条件は勾配の条件
$$\mathbf{p} = \nabla f(\mathbf{x})$$で与えられる。これはルジャンドル変換が「勾配写像 $\nabla f$ の逆写像」を通じて変数を入れ替える操作であることを示している。
1変数の場合と同様に、対合性 $f^{**} = f$、ヤングの不等式 $f(\mathbf{x}) + f^*(\mathbf{p}) \geq \mathbf{p} \cdot \mathbf{x}$、凸性の保存が成り立つ。
8. 応用
8.1 ハミルトン力学(ラグランジアンからハミルトニアンへ)
解析力学において、ラグランジアン $L(q, \dot{q}, t)$ から一般化運動量を
$$p = \dfrac{\partial L}{\partial \dot{q}}$$と定義する。ハミルトニアンは $\dot{q}$ に関するルジャンドル変換で得られる:
$$H(q, p, t) = p\dot{q} - L(q, \dot{q}, t)$$ここで右辺の $\dot{q}$ は $p = \partial L / \partial \dot{q}$ を解いて $\dot{q}(q, p, t)$ に置き換える。 独立変数が $(q, \dot{q})$ から $(q, p)$ に入れ替わり、オイラー・ラグランジュ方程式は正準方程式
$$\dot{q} = \dfrac{\partial H}{\partial p}, \qquad \dot{p} = -\dfrac{\partial H}{\partial q}$$の形をとる。これにより位相空間上のシンプレクティック構造が明示される。
8.2 熱力学(熱力学ポテンシャルの変換)
熱力学において内部エネルギー $U(S, V)$ は自然変数としてエントロピー $S$ と体積 $V$ をもつ。 温度 $T = \partial U / \partial S$ を独立変数にしたい場合、$S$ に関するルジャンドル変換を行うと ヘルムホルツ自由エネルギーが得られる:
$$F(T, V) = U - TS$$同様にして他の熱力学ポテンシャルも得られる:
| ポテンシャル | 自然変数 | ルジャンドル変換 |
|---|---|---|
| 内部エネルギー $U$ | $S, V$ | (基本) |
| ヘルムホルツ自由エネルギー $F$ | $T, V$ | $F = U - TS$ |
| エンタルピー $H$ | $S, P$ | $H = U + PV$ |
| ギブズ自由エネルギー $G$ | $T, P$ | $G = U - TS + PV$ |
マクスウェルの関係式(例:$(\partial T/\partial V)_S = -(\partial P/\partial S)_V$)は、ルジャンドル変換の2階偏微分の対称性から自然に導かれる。
8.3 凸最適化(共役双対性)
凸最適化におけるFenchel 双対問題はルジャンドル変換に基づく。 元問題が
$$\min_x \bigl( f(x) + g(Ax) \bigr)$$のとき、双対問題は
$$\max_p \bigl( -f^*(-A^T p) - g^*(p) \bigr)$$となる。弱双対性 $d^* \leq p^*$(双対値 $\leq$ 主値)は常に成り立ち、 凸性と制約想定の下で強双対性 $d^* = p^*$ が成立する。 この枠組みにより、双対問題を解くことで元問題の最適値と解を得ることができる。
9. よくある質問
Q1. ルジャンドル変換とは何か
凸関数 $f(x)$ に対して $f^*(p) = \sup_x(px - f(x))$ で定義される変換である。 直感的には、関数を「各点での値」で記述する代わりに「接線の傾きと切片」で記述し直す操作である。 物理学ではラグランジアンからハミルトニアンへ、熱力学では内部エネルギーから自由エネルギーへの変換として広く用いられる。
Q2. ルジャンドル変換はなぜ対合(involution)なのか
凸関数 $f$ に対して変換を2回適用すると $f^{**}(x) = \sup_p(px - f^*(p))$ となる。 幾何学的には、関数 $f$ を接線族に分解し($f \to f^*$)、その接線族から包絡線として元の関数を復元する($f^* \to f^{**}$)操作に相当する。 Fenchel-Moreau の定理により、$f$ が下半連続な真凸関数であれば $f^{**} = f$ が保証される。
Q3. ルジャンドル変換は物理学でどう使われるか
主要な応用は2つある。 (1) ハミルトン力学:ラグランジアン $L(q, \dot{q})$ を速度 $\dot{q}$ に関してルジャンドル変換すると、 ハミルトニアン $H(q, p) = p\dot{q} - L$ が得られる。 独立変数が速度から運動量に替わり、正準方程式という対称的な形式が導かれる。 (2) 熱力学:内部エネルギー $U(S, V)$ をエントロピー $S$ に関してルジャンドル変換すると、 ヘルムホルツ自由エネルギー $F(T, V) = U - TS$ が得られる。 実験で制御しやすい温度 $T$ を独立変数にできる点が実用上重要である。
Q4. ルジャンドル変換にはなぜ凸性が必要なのか
ルジャンドル変換(凸共役)$f^*$ 自体は任意の関数に対して定義できる。しかし、2回変換すると元に戻る対合性 $f^{**} = f$ が成り立つのは、 $f$ が下半連続な真凸関数のときに限る(Fenchel-Moreau の定理)。凸でない $f$ に対しては $f^{**}$ は $f$ の凸包絡 ($f$ 以下で最大の凸関数)になり、元の $f$ とは一致しない。また凸性は、関数を「接線(支持直線)の族」で過不足なく表現できることを保証する。 このため、理論・応用の双方で凸関数を前提とするのが標準である。
10. 参考資料
- Rockafellar, R. T. (1970). Convex Analysis. Princeton University Press.
- Arnold, V. I. (1989). Mathematical Methods of Classical Mechanics, 2nd ed. Springer.
- Callen, H. B. (1985). Thermodynamics and an Introduction to Thermostatistics, 2nd ed. Wiley.
- Boyd, S., & Vandenberghe, L. (2004). Convex Optimization. Cambridge University Press. Online
- Wikipedia: ルジャンドル変換
- Wikipedia: Legendre transformation (English)
- Wikipedia: Convex conjugate (English)