分野ごとのベクトル微分/行列微分レイアウト一覧

行列微分には「分母」と「分子」という2つの表記法が存在し、 分野によって主流の表記が異なる。 このページでは、各分野における典型的なレイアウトの傾向をまとめる。

概要

行列微分の表記には、勾配ベクトルを列ベクトルとして表す「分母」と、 行ベクトルとして表す「分子」がある。 どちらが「正しい」わけではなく、分野の慣習や計算の便宜によって使い分けられている。

一般的な傾向として:

  • 分母: 最適化、統計学、機械学習など、勾配降下法を多用する分野で主流
  • 分子: 制御工学、ロボット工学、連続体力学など、Jacobi行列の連鎖律を多用する分野で主流

分母・分子の定義や違いについては ベクトル微分/行列微分入門を参照のこと。

凡例

分母
分子
混在・独自記法

分野別一覧表

分野 主流の表記 備考
情報科学 混在 分野により異なる
機械学習・深層学習 混在 勾配は分母、Jacobianは分子
画像解析 分母 Hesse行列で特徴検出
信号処理 分母 統計学と同じ慣習
画像生成 分子 座標変換にJacobian使用
心理学 分母 統計的手法が中心
因子分析 分母 尤度最大化、勾配ベースの推定
構造方程式モデリング 分母 パス係数の最適化
項目反応理論 分母 パラメータ推定でFisher情報行列
経済学 混在 分野により異なる
ミクロ経済学 分母 効用最大化で勾配・Hesse行列使用
計量経済学 分子 Magnus & Neudecker など多くの教科書で採用
数理ファイナンス 分母 ポートフォリオ最適化で勾配使用
数学 混在 分野により異なる
統計学・パターン認識 分母 勾配が列ベクトルになり直感的
最適化理論 分母 Hesse行列が自然な形になる
数値解析 分母 勾配法で列ベクトル
微分幾何学 テンソル添字表記 共変微分、共変・反変添字
物理学 混在 分野により異なる
古典力学 分母 勾配∇Lが列ベクトル
電磁気学 分母 E = −∇φ(勾配が列ベクトル)
連続体力学・流体力学 分子 変形勾配・速度勾配がJacobian形式
量子力学 ブラケット記法 ket=列、bra=行(独自体系)
相対論・場の理論 テンソル添字表記 共変・反変添字で管理
化学 分母 エネルギー最適化が中心
計算化学 分母 分子構造最適化、エネルギー勾配
量子化学 分母 波動関数最適化、Hesse行列で振動解析
分子動力学 分母 力場パラメータ、ポテンシャル勾配
天文学 分子 軌道計算・座標変換が中心
天体力学 分子 軌道決定、変分方程式でJacobian
位置天文学 分子 座標変換、観測誤差伝播
宇宙論 分母 パラメータ推定、尤度最大化
地球科学 分子 逆問題・データ同化が中心
地震学 分子 波動伝播のJacobian、震源決定
気象学・海洋学 分子 4次元変分法、接線形モデル
測地学 分子 座標変換、観測方程式のJacobian
生命科学 混在 応用分野により異なる
システム生物学 分母 感度解析、パラメータ推定
個体群生態学 分子 Leslie行列、成長率の感度
疫学 分母 SIRモデルの感度解析
医学・生理学 混在 分野により異なる
神経科学 分母 共分散行列、SPD多様体学習
薬物動態学 分母 コンパートメントモデルの感度解析
医用画像 分母 画像再構成、レジストレーション
バイオメカニクス 分子 骨格・筋肉モデルでJacobian
工学 混在 分野により異なる
制御工学 分子 線形化にJacobian使用
ロボット工学 分子 関節速度→エンドエフェクタ速度
電気・電子工学 分母 回路解析で勾配使用
航空宇宙工学 分子 姿勢制御にJacobian
構造力学 分子 有限要素法でJacobian
土木工学 分子 構造解析、地盤の有限要素法
材料工学 テンソル添字表記 応力・ひずみテンソル
通信工学 分母 ビームフォーミング、MIMO最適化
農学 分母 パラメータ最適化が中心
作物モデリング 分母 成長パラメータの推定・最適化
精密農業 分母 センサデータ解析、収量予測
農業経済学 分母 生産関数の最適化、効用最大化

使用上の注意

重要:上表は各分野における典型的な傾向を示したものであり、同じ分野でも文献によってレイアウトが異なることがある。 式を引用する際は、元の文献がどちらの表記を採用しているか必ず確認すること。

実際に論文や教科書を読む際には、以下の点に注意すると良い。

  • 勾配ベクトルが列ベクトルか行ベクトルかを確認する
  • Jacobi行列の定義(行と列の対応)を確認する
  • 連鎖律の積の順序を確認する
  • 複数の文献を参照する場合は、レイアウトを統一してから式を引用する
関連ページ

参考文献

  • Matrix calculus - Wikipedia
  • Petersen, K. B., & Pedersen, M. S. (2012). The Matrix Cookbook. Technical University of Denmark.
  • Magnus, J. R., & Neudecker, H. (1999). Matrix Differential Calculus with Applications in Statistics and Econometrics. Wiley.