Wienerフィルタ
周波数領域・時間領域の両アプローチと Wirtinger 微分
Wienerフィルタとは
Wienerフィルタは、ノイズを含む観測信号から元の信号を、線形フィルタの中で最小平均二乗誤差(MMSE)の意味で最適に推定するフィルタである(信号とノイズがガウス分布に従うときは、非線形の推定まで含めて最適になる)。 1940年代にNorbert Wienerによって開発され、信号処理・画像処理・通信などで広く用いられている。
Wienerフィルタの解
周波数領域:
$$G(\omega) = \frac{H^*(\omega) P_S(\omega)}{|H(\omega)|^2 P_S(\omega) + P_N(\omega)}$$時間領域(Wiener-Hopf 方程式 $\boldsymbol{R}\boldsymbol{w}=\boldsymbol{p}$ の解。$\boldsymbol{R}$ が正則のとき):
$$\boldsymbol{w}_{\rm opt} = \boldsymbol{R}^{-1}\boldsymbol{p}$$ここで $P_S(\omega)$, $P_N(\omega)$ は原信号 $X$ とノイズ $N$ のパワースペクトル、$\boldsymbol{w}$ は FIR フィルタの係数、$\boldsymbol{R}=E[\boldsymbol{x}\boldsymbol{x}^H]$ は観測ベクトル $\boldsymbol{x}$ の自己相関行列、$\boldsymbol{p}=E[\boldsymbol{x}d^*]$ は観測と目標信号 $d$ の相互相関ベクトルである。
いずれも、信号とノイズが無相関で広義定常、パワースペクトル(相関)が既知であることを前提とする。$G(\omega)$ は因果性を課さない(両側の)解で、因果性を課した解は第7章で扱う。
目次
本シリーズでは、Wienerフィルタを複数のアプローチで導出する。 Part 1・2 では、同じ前提のもとで同じ結果に異なる方法で到達することで理論の本質を深く理解し、Part 3・4 では因果性・予測・多チャンネルなど前提を変えた発展を扱う。
Part 1:基本的な導出
-
第1章
周波数領域での導出
直交性原理、平方完成、Wirtinger微分による3つのアプローチ
-
第2章
時間領域での導出
直交性原理とWirtinger微分によるWiener-Hopf方程式の導出
-
第3章
周波数領域と時間領域の関係
両領域の対応関係と本質的な等価性
Part 2:発展的な導出法
-
第4章
発展的な導出法
実部・虚部分解、変分法、射影定理、ガウス仮定下の MAP 推定、固有値分解(スペクトル分解)、LMS収束点
Part 3:実用と関連理論
-
第5章
実用面の考慮
非因果性、正則化、数値的安定性、Levinson-Durbin、スペクトル推定
-
第6章
関連理論
Kalmanフィルタとの関係、機械学習との関係、導出法の比較
Part 4:発展的トピック
-
第7章
因果的Wienerフィルタ
スペクトル分解法、Wiener-Hopf分解、リアルタイム処理
-
第8章
平滑化・フィルタリング・予測
Wienerの3つの古典的問題、性能比較
-
第9章
多チャンネルWienerフィルタ
MIMO拡張、マイクアレイ、ビームフォーミング
-
第10章
応用例
エコーキャンセル、チャネル等化、音声強調、画像復元、Python実装
付録
-
付録
補足資料
Wirtinger微分の公式、ガウス信号の最適性、参考文献、トリビア
複数の導出法を学ぶ意義
- 多角的な理解:異なるアプローチで同じ結論に到達することで、理論の本質を深く把握できる
- 応用力の向上:問題の性質に応じて最適な導出法を選択できる
- 数学的教養:関数解析、確率論、最適化理論など様々な数学的手法に触れられる
- 歴史的視点:分野の発展とともに導出法がどのように進化してきたかを理解できる
主要なアプローチは以下の通り:
- 周波数領域での導出:平方完成法、直交性原理、Wirtinger 微分
- 時間領域での導出:直交性原理、Wirtinger 微分
- その他の導出法:実部・虚部分解、変分法、射影定理、ガウス仮定下の MAP 推定、固有値分解(スペクトル分解)、LMS収束点
これらは同じ理論の異なる表現であり、それぞれの前提(MAP 推定ではガウス性、LMS ではステップサイズが十分小さいこと)のもとで、最終的に等価な結果(Wiener-Hopf 方程式)を与える。
よくある質問
Q1. Wienerフィルタとは何ですか?
Wienerフィルタは、ノイズを含む観測信号から元の信号を推定する線形フィルタのうち、平均二乗誤差を最小にするもの(MMSE の意味で線形推定器の中で最適)である。信号とノイズが無相関で広義定常、パワースペクトルが既知のとき、周波数領域では $G(\omega) = \dfrac{H^*(\omega)P_S(\omega)}{|H(\omega)|^2P_S(\omega)+P_N(\omega)}$(因果性を課さない解)、時間領域では Wiener-Hopf 方程式 $\boldsymbol{R}\boldsymbol{w}=\boldsymbol{p}$ の解 $\boldsymbol{w}_{\rm opt}=\boldsymbol{R}^{-1}\boldsymbol{p}$($\boldsymbol{R}$ が正則のとき)で与えられる。信号とノイズがガウス分布に従うときは、非線形の推定器まで含めて最適になる。
Q2. Wirtinger微分とWienerフィルタの関係は?
Wirtinger微分は、複素変数の関数を実部・虚部に分けずに微分できる手法で、複素信号の MMSE 最適化に便利である。平均二乗誤差 $J(\boldsymbol{w}) = E[|d - \boldsymbol{w}^H\boldsymbol{x}|^2]$($d$ は目標信号、$\boldsymbol{x}$ は観測ベクトル)について $\partial J/\partial\boldsymbol{w}^* = \boldsymbol{R}\boldsymbol{w}-\boldsymbol{p} = 0$ とおくだけで Wiener-Hopf 方程式が得られ、直交性原理や平方完成と同じ結果を簡潔に導ける。