Demostraciones Capítulo 7: Derivadas de determinantes

Demostración

Recordemos el desarrollo por cofactores del determinante (A.13). El determinante puede desarrollarse, para cualquier fila $i$, como la suma de los productos de los elementos de esa fila por sus cofactores correspondientes.

\begin{equation}|\boldsymbol{X}| = \displaystyle\sum_{j=0}^{N-1} X_{ij} \tilde{X}_{ij}\label{eq:7-1-1}\end{equation}

Aquí $\tilde{X}_{ij}$ es el cofactor $(i, j)$ de $\boldsymbol{X}$.

Recordemos la definición de cofactor. $\tilde{X}_{ij}$ es el determinante de la submatriz de $(N-1) \times (N-1)$ que se obtiene al eliminar la fila $i$ y la columna $j$ de $\boldsymbol{X}$ (el menor), multiplicado por el signo $(-1)^{i+j}$.

\begin{equation}\tilde{X}_{ij} = (-1)^{i+j} M_{ij}\label{eq:7-1-2}\end{equation}

Aquí $M_{ij}$ es el menor $(i, j)$.

Como propiedad importante, nótese que el cofactor $\tilde{X}_{ij}$ no contiene al propio $X_{ij}$. Esto se debe a que el menor $M_{ij}$ se calcula eliminando la fila $i$ y la columna $j$.

Derivamos parcialmente el determinante $|\boldsymbol{X}|$ respecto a la componente $X_{ij}$. Usando el desarrollo por cofactores de \eqref{eq:7-1-1} se obtiene lo siguiente.

\begin{equation}\dfrac{\partial}{\partial X_{ij}} |\boldsymbol{X}| = \dfrac{\partial}{\partial X_{ij}} \displaystyle\sum_{k=0}^{N-1} X_{ik} \tilde{X}_{ik}\label{eq:7-1-3}\end{equation}

Descomponemos la derivada de la suma en la suma de las derivadas de cada término.

\begin{equation}\dfrac{\partial}{\partial X_{ij}} \displaystyle\sum_{k=0}^{N-1} X_{ik} \tilde{X}_{ik} = \displaystyle\sum_{k=0}^{N-1} \dfrac{\partial}{\partial X_{ij}} (X_{ik} \tilde{X}_{ik})\label{eq:7-1-4}\end{equation}

Calculamos la derivada de cada término. Como el cofactor $\tilde{X}_{ik}$ no contiene a $X_{ij}$, puede tratarse como una constante. Por lo tanto se cumple lo siguiente.

\begin{equation}\dfrac{\partial}{\partial X_{ij}} (X_{ik} \tilde{X}_{ik}) = \tilde{X}_{ik} \dfrac{\partial X_{ik}}{\partial X_{ij}}\label{eq:7-1-5}\end{equation}

Calculamos la derivada parcial de la componente. $X_{ik}$ y $X_{ij}$ son la misma variable solo cuando $k = j$.

\begin{equation}\dfrac{\partial X_{ik}}{\partial X_{ij}} = \delta_{kj}\label{eq:7-1-6}\end{equation}

Aquí $\delta_{kj}$ es la delta de Kronecker, que vale 1 cuando $k = j$ y 0 en caso contrario.

Combinando \eqref{eq:7-1-5} y \eqref{eq:7-1-6} se obtiene lo siguiente.

\begin{equation}\displaystyle\sum_{k=0}^{N-1} \tilde{X}_{ik} \delta_{kj} = \tilde{X}_{ij}\label{eq:7-1-7}\end{equation}

Como $\delta_{kj} = 1$ solo cuando $k = j$, en la suma queda únicamente el término $k = j$.

Por lo anterior, la derivada del determinante respecto a la componente es igual al cofactor.

\begin{equation}\dfrac{\partial}{\partial X_{ij}} |\boldsymbol{X}| = \tilde{X}_{ij}\label{eq:7-1-8}\end{equation}

Consideramos la derivada matricial en la convención del denominador. En la convención del denominador, la componente $(i, j)$ del resultado corresponde a $\dfrac{\partial}{\partial X_{ij}}$.

\begin{equation}\left( \dfrac{\partial}{\partial \boldsymbol{X}} |\boldsymbol{X}| \right)_{ij} = \dfrac{\partial}{\partial X_{ij}} |\boldsymbol{X}| = \tilde{X}_{ij}\label{eq:7-1-9}\end{equation}

Escribimos esto en forma matricial. Definimos la matriz adjunta (adjugate matrix) $\text{adj}(\boldsymbol{X})$. La componente $(i, j)$ de $\text{adj}(\boldsymbol{X})$ es $\tilde{X}_{ji}$ (nótese que los índices se intercambian).

Al escribir el resultado de \eqref{eq:7-1-9} en forma matricial, como la componente $(i, j)$ es $\tilde{X}_{ij}$, esto es la transpuesta $\text{adj}(\boldsymbol{X})^\top$ de $\text{adj}(\boldsymbol{X})$.

\begin{equation}\dfrac{\partial}{\partial \boldsymbol{X}} |\boldsymbol{X}| = \text{adj}(\boldsymbol{X})^\top\label{eq:7-1-10}\end{equation}

Reescribimos usando la relación entre la matriz inversa y la matriz adjunta. Para una matriz invertible $\boldsymbol{X}$ se cumple la siguiente relación.

\begin{equation}\boldsymbol{X}^{-1} = \dfrac{1}{|\boldsymbol{X}|} \text{adj}(\boldsymbol{X})\label{eq:7-1-11}\end{equation}

Al despejar $\text{adj}(\boldsymbol{X})$ de \eqref{eq:7-1-11} se obtiene lo siguiente.

\begin{equation}\text{adj}(\boldsymbol{X}) = |\boldsymbol{X}| \boldsymbol{X}^{-1}\label{eq:7-1-12}\end{equation}

Tomamos la transpuesta de ambos lados.

\begin{equation}\text{adj}(\boldsymbol{X})^\top = (|\boldsymbol{X}| \boldsymbol{X}^{-1})^\top\label{eq:7-1-13}\end{equation}

El escalar $|\boldsymbol{X}|$ no cambia al transponer. Además, la transpuesta de un producto es $(AB)^\top = B^\top A^\top$, pero aquí se trata de un producto con un escalar, por lo que el orden no importa. Por lo tanto se cumple lo siguiente.

\begin{equation}\text{adj}(\boldsymbol{X})^\top = |\boldsymbol{X}| (\boldsymbol{X}^{-1})^\top = |\boldsymbol{X}| \boldsymbol{X}^{-\top}\label{eq:7-1-14}\end{equation}

Combinando \eqref{eq:7-1-10} y \eqref{eq:7-1-14} obtenemos el resultado final.

\begin{equation}\dfrac{\partial}{\partial \boldsymbol{X}} |\boldsymbol{X}| = |\boldsymbol{X}| \boldsymbol{X}^{-\top}\label{eq:7-1-15}\end{equation}

Demostración

El logaritmo del determinante es la función compuesta $\log(|\boldsymbol{X}|)$. La función exterior es $\log$ y la función interior es $|\boldsymbol{X}|$.

Aplicamos la fórmula de derivación de la función compuesta (regla de la cadena). La derivada matricial de una función escalar $f(g(\boldsymbol{X}))$ es la siguiente.

\begin{equation}\dfrac{\partial}{\partial \boldsymbol{X}} f(g(\boldsymbol{X})) = f'(g(\boldsymbol{X})) \dfrac{\partial g}{\partial \boldsymbol{X}}\label{eq:7-2-1}\end{equation}

En este problema $f(u) = \log(u)$ y $g(\boldsymbol{X}) = |\boldsymbol{X}|$.

Al calcular la derivada de la función exterior $f(u) = \log(u)$ se obtiene lo siguiente.

\begin{equation}f'(u) = \dfrac{1}{u}\label{eq:7-2-2}\end{equation}

Sustituyendo $u = g(\boldsymbol{X}) = |\boldsymbol{X}|$ se obtiene lo siguiente.

\begin{equation}f'(g(\boldsymbol{X})) = f'(|\boldsymbol{X}|) = \dfrac{1}{|\boldsymbol{X}|}\label{eq:7-2-3}\end{equation}

La derivada de la función interior es, según 7.1, la siguiente.

\begin{equation}\dfrac{\partial}{\partial \boldsymbol{X}} |\boldsymbol{X}| = |\boldsymbol{X}| \boldsymbol{X}^{-\top}\label{eq:7-2-4}\end{equation}

Sustituyendo \eqref{eq:7-2-3} y \eqref{eq:7-2-4} en la regla de la cadena \eqref{eq:7-2-1} se obtiene lo siguiente.

\begin{equation}\dfrac{\partial}{\partial \boldsymbol{X}} \log|\boldsymbol{X}| = \dfrac{1}{|\boldsymbol{X}|} \cdot |\boldsymbol{X}| \boldsymbol{X}^{-\top}\label{eq:7-2-5}\end{equation}

$\dfrac{1}{|\boldsymbol{X}|}$ y $|\boldsymbol{X}|$ se cancelan y obtenemos el resultado final.

\begin{equation}\dfrac{\partial}{\partial \boldsymbol{X}} \log|\boldsymbol{X}| = \boldsymbol{X}^{-\top}\label{eq:7-2-6}\end{equation}

Demostración

Recordemos la propiedad del determinante respecto al producto (1.14). Para cualesquiera matrices cuadradas $\boldsymbol{A}$, $\boldsymbol{B}$ se cumple lo siguiente.

\begin{equation}|\boldsymbol{A}\boldsymbol{B}| = |\boldsymbol{A}||\boldsymbol{B}|\label{eq:7-3-1}\end{equation}

Aplicando repetidamente esta propiedad, el determinante de $\boldsymbol{X}^n = \underbrace{\boldsymbol{X} \cdot \boldsymbol{X} \cdots \boldsymbol{X}}_{n \text{ factores}}$ es el siguiente.

\begin{equation}|\boldsymbol{X}^n| = |\underbrace{\boldsymbol{X} \cdot \boldsymbol{X} \cdots \boldsymbol{X}}_{n \text{ factores}}| = \underbrace{|\boldsymbol{X}| \cdot |\boldsymbol{X}| \cdots |\boldsymbol{X}|}_{n \text{ factores}} = |\boldsymbol{X}|^n\label{eq:7-3-2}\end{equation}

Por lo tanto, el problema de derivar $|\boldsymbol{X}^n|$ respecto a $\boldsymbol{X}$ se reduce al problema de derivar $|\boldsymbol{X}|^n$ respecto a $\boldsymbol{X}$.

\begin{equation}\dfrac{\partial}{\partial \boldsymbol{X}} |\boldsymbol{X}^n| = \dfrac{\partial}{\partial \boldsymbol{X}} |\boldsymbol{X}|^n\label{eq:7-3-3}\end{equation}

$|\boldsymbol{X}|^n$ es la $n$-ésima potencia de $|\boldsymbol{X}|$, lo cual es una función compuesta. Tomamos la función exterior como $f(u) = u^n$ y la función interior como $g(\boldsymbol{X}) = |\boldsymbol{X}|$.

Al calcular la derivada de la función exterior $f(u) = u^n$ se obtiene lo siguiente.

\begin{equation}f'(u) = n u^{n-1}\label{eq:7-3-4}\end{equation}

Sustituyendo $u = |\boldsymbol{X}|$ se obtiene lo siguiente.

\begin{equation}f'(|\boldsymbol{X}|) = n |\boldsymbol{X}|^{n-1}\label{eq:7-3-5}\end{equation}

La derivada de la función interior es, según 7.1, la siguiente.

\begin{equation}\dfrac{\partial}{\partial \boldsymbol{X}} |\boldsymbol{X}| = |\boldsymbol{X}| \boldsymbol{X}^{-\top}\label{eq:7-3-6}\end{equation}

Aplicando la regla de la cadena se obtiene lo siguiente.

\begin{equation}\dfrac{\partial}{\partial \boldsymbol{X}} |\boldsymbol{X}|^n = n |\boldsymbol{X}|^{n-1} \cdot |\boldsymbol{X}| \boldsymbol{X}^{-\top}\label{eq:7-3-7}\end{equation}

Usando $|\boldsymbol{X}|^{n-1} \cdot |\boldsymbol{X}| = |\boldsymbol{X}|^n$ y simplificando se obtiene lo siguiente.

\begin{equation}\dfrac{\partial}{\partial \boldsymbol{X}} |\boldsymbol{X}|^n = n |\boldsymbol{X}|^n \boldsymbol{X}^{-\top}\label{eq:7-3-8}\end{equation}

Como por \eqref{eq:7-3-2} se tiene $|\boldsymbol{X}|^n = |\boldsymbol{X}^n|$, obtenemos el resultado final.

\begin{equation}\dfrac{\partial}{\partial \boldsymbol{X}} |\boldsymbol{X}^n| = n |\boldsymbol{X}^n| \boldsymbol{X}^{-\top}\label{eq:7-3-9}\end{equation}

Demostración

$\det(\boldsymbol{Y})$ es una función de todas las componentes $Y_{ij}$ de $\boldsymbol{Y}$. Como cada componente $Y_{ij}$ de $\boldsymbol{Y}$ es una función del escalar $x$, $\det(\boldsymbol{Y})$ es una función compuesta de $x$.

Aplicamos la regla de la cadena multivariable. Al derivar $\det(\boldsymbol{Y})$ respecto a $x$, resulta la suma total de las contribuciones a través de todas las variables intermedias $Y_{ij}$.

\begin{equation}\dfrac{\partial \det(\boldsymbol{Y})}{\partial x} = \displaystyle\sum_{i=0}^{N-1} \displaystyle\sum_{j=0}^{N-1} \dfrac{\partial \det(\boldsymbol{Y})}{\partial Y_{ij}} \dfrac{\partial Y_{ij}}{\partial x}\label{eq:7-4-1}\end{equation}

Por el desarrollo de la demostración de 7.1, la derivada del determinante respecto a la componente es igual al cofactor.

\begin{equation}\dfrac{\partial \det(\boldsymbol{Y})}{\partial Y_{ij}} = \tilde{Y}_{ij}\label{eq:7-4-2}\end{equation}

Aquí $\tilde{Y}_{ij}$ es el cofactor $(i, j)$ de $\boldsymbol{Y}$.

Sustituyendo \eqref{eq:7-4-2} en \eqref{eq:7-4-1} se obtiene lo siguiente.

\begin{equation}\dfrac{\partial \det(\boldsymbol{Y})}{\partial x} = \displaystyle\sum_{i,j} \tilde{Y}_{ij} \dfrac{\partial Y_{ij}}{\partial x}\label{eq:7-4-3}\end{equation}

Usamos la relación entre cofactores e inversa. Como se mostró en la demostración de 7.1, se cumple la siguiente relación.

\begin{equation}\text{adj}(\boldsymbol{Y}) = \det(\boldsymbol{Y}) \boldsymbol{Y}^{-1}\label{eq:7-4-4}\end{equation}

Aquí la componente $(i, j)$ de $\text{adj}(\boldsymbol{Y})$ es $\tilde{Y}_{ji}$.

Por lo tanto, $\tilde{Y}_{ij}$ es la componente $(j, i)$ de $\text{adj}(\boldsymbol{Y})$, de modo que puede escribirse como sigue.

\begin{equation}\tilde{Y}_{ij} = (\text{adj}(\boldsymbol{Y}))_{ji} = \det(\boldsymbol{Y}) (Y^{-1})_{ji}\label{eq:7-4-5}\end{equation}

Sustituyendo \eqref{eq:7-4-5} en \eqref{eq:7-4-3} se obtiene lo siguiente.

\begin{equation}\dfrac{\partial \det(\boldsymbol{Y})}{\partial x} = \displaystyle\sum_{i,j} \det(\boldsymbol{Y}) (Y^{-1})_{ji} \dfrac{\partial Y_{ij}}{\partial x}\label{eq:7-4-6}\end{equation}

Como $\det(\boldsymbol{Y})$ no depende de $i, j$, lo sacamos fuera de la suma.

\begin{equation}\dfrac{\partial \det(\boldsymbol{Y})}{\partial x} = \det(\boldsymbol{Y}) \displaystyle\sum_{i,j} (Y^{-1})_{ji} \dfrac{\partial Y_{ij}}{\partial x}\label{eq:7-4-7}\end{equation}

Intercambiando el orden de la suma y sumando primero respecto a $i$ se obtiene lo siguiente.

\begin{equation}\displaystyle\sum_{i,j} (Y^{-1})_{ji} \dfrac{\partial Y_{ij}}{\partial x} = \displaystyle\sum_{j=0}^{N-1} \displaystyle\sum_{i=0}^{N-1} (Y^{-1})_{ji} \dfrac{\partial Y_{ij}}{\partial x}\label{eq:7-4-8}\end{equation}

La suma interior $\displaystyle\sum_{i} (Y^{-1})_{ji} \dfrac{\partial Y_{ij}}{\partial x}$ corresponde a la definición del producto de matrices. Esta es la componente $(j, j)$ de $\boldsymbol{Y}^{-1} \dfrac{\partial \boldsymbol{Y}}{\partial x}$.

\begin{equation}\displaystyle\sum_{i=0}^{N-1} (Y^{-1})_{ji} \left(\dfrac{\partial \boldsymbol{Y}}{\partial x}\right)_{ij} = \left( \boldsymbol{Y}^{-1} \dfrac{\partial \boldsymbol{Y}}{\partial x} \right)_{jj}\label{eq:7-4-9}\end{equation}

La suma exterior $\displaystyle\sum_{j}$ es la suma total de las componentes diagonales, es decir, la traza.

\begin{equation}\displaystyle\sum_{j=0}^{N-1} \left( \boldsymbol{Y}^{-1} \dfrac{\partial \boldsymbol{Y}}{\partial x} \right)_{jj} = \text{tr}\left( \boldsymbol{Y}^{-1} \dfrac{\partial \boldsymbol{Y}}{\partial x} \right)\label{eq:7-4-10}\end{equation}

Combinando \eqref{eq:7-4-7} y \eqref{eq:7-4-10} obtenemos el resultado final (la fórmula de Jacobi).

\begin{equation}\dfrac{\partial \det(\boldsymbol{Y})}{\partial x} = \det(\boldsymbol{Y}) \text{tr}\left( \boldsymbol{Y}^{-1} \dfrac{\partial \boldsymbol{Y}}{\partial x} \right)\label{eq:7-4-11}\end{equation}

Demostración

Por el desarrollo de la demostración de 7.1, la derivada del determinante respecto a la componente es igual al cofactor.

\begin{equation}\dfrac{\partial \det(\boldsymbol{X})}{\partial X_{ik}} = \tilde{X}_{ik}\label{eq:7-5-1}\end{equation}

Usando este resultado, reescribimos la suma del lado izquierdo en términos de cofactores y se obtiene lo siguiente.

\begin{equation}\displaystyle\sum_{k=0}^{N-1} \dfrac{\partial \det(\boldsymbol{X})}{\partial X_{ik}} X_{jk} = \displaystyle\sum_{k=0}^{N-1} \tilde{X}_{ik} X_{jk}\label{eq:7-5-2}\end{equation}

Consideramos por separado el caso $i = j$ y el caso $i \neq j$.

Consideramos el caso $i = j$. La suma es la siguiente.

\begin{equation}\displaystyle\sum_{k=0}^{N-1} \tilde{X}_{ik} X_{ik}\label{eq:7-5-3}\end{equation}

Esto es precisamente el desarrollo por cofactores del determinante. El desarrollo del determinante por la fila $i$ es el siguiente.

\begin{equation}\det(\boldsymbol{X}) = \displaystyle\sum_{k=0}^{N-1} X_{ik} \tilde{X}_{ik}\label{eq:7-5-4}\end{equation}

Por lo tanto, cuando $i = j$ se cumple lo siguiente.

\begin{equation}\displaystyle\sum_{k=0}^{N-1} \tilde{X}_{ik} X_{ik} = \det(\boldsymbol{X})\label{eq:7-5-5}\end{equation}

Consideramos el caso $i \neq j$. La suma es la siguiente.

\begin{equation}\displaystyle\sum_{k=0}^{N-1} \tilde{X}_{ik} X_{jk}\label{eq:7-5-6}\end{equation}

Consideramos el significado de esta suma. $\tilde{X}_{ik}$ es el determinante de la submatriz que se obtiene al eliminar la fila $i$ y la columna $k$ de $\boldsymbol{X}$, con su signo. Por lo tanto, $\tilde{X}_{ik}$ no contiene las componentes de la fila $i$ de $\boldsymbol{X}$.

La suma de \eqref{eq:7-5-6} es igual al desarrollo por cofactores, por la fila $i$, de la matriz $\boldsymbol{X}'$ obtenida al reemplazar la fila $i$ de $\boldsymbol{X}$ por la fila $j$.

\begin{equation}\displaystyle\sum_{k=0}^{N-1} \tilde{X}_{ik} X_{jk} = \det(\boldsymbol{X}')\label{eq:7-5-7}\end{equation}

Aquí $\boldsymbol{X}'$ es la matriz obtenida al reemplazar la fila $i$ de $\boldsymbol{X}$ por la fila $j$ de $\boldsymbol{X}$ (nótese que el cofactor $\tilde{X}_{ik}$ no depende de la fila $i$).

En $\boldsymbol{X}'$, la fila $i$ y la fila $j$ son el mismo vector. Es decir, dos filas son idénticas.

Como propiedad del determinante, el determinante de una matriz con dos filas (o columnas) idénticas es 0.

\begin{equation}\det(\boldsymbol{X}') = 0\label{eq:7-5-8}\end{equation}

Por lo tanto, cuando $i \neq j$ se cumple lo siguiente.

\begin{equation}\displaystyle\sum_{k=0}^{N-1} \tilde{X}_{ik} X_{jk} = 0\label{eq:7-5-9}\end{equation}

Expresando \eqref{eq:7-5-5} y \eqref{eq:7-5-9} de forma unificada mediante la delta de Kronecker, obtenemos el resultado final.

\begin{equation}\displaystyle\sum_{k=0}^{N-1} \dfrac{\partial \det(\boldsymbol{X})}{\partial X_{ik}} X_{jk} = \delta_{ij} \det(\boldsymbol{X})\label{eq:7-5-10}\end{equation}

Demostración

Recordamos la fórmula de Jacobi de 7.4.

\begin{equation}\dfrac{\partial \det(\boldsymbol{Y})}{\partial x} = \det(\boldsymbol{Y}) \text{tr}(\boldsymbol{Y}^{-1} \boldsymbol{Y}')\label{eq:7-6-1}\end{equation}

Derivamos ambos lados respecto a $x$ una vez más. El lado izquierdo es $\dfrac{\partial^2 \det(\boldsymbol{Y})}{\partial x^2}$. El lado derecho es el producto de dos factores, por lo que aplicamos la regla del producto (1.25).

\begin{equation}\dfrac{\partial^2 \det(\boldsymbol{Y})}{\partial x^2} = \dfrac{\partial}{\partial x} \left[ \det(\boldsymbol{Y}) \text{tr}(\boldsymbol{Y}^{-1} \boldsymbol{Y}') \right]\label{eq:7-6-2}\end{equation}

Aplicamos la regla del producto (1.25) $(fg)' = f'g + fg'$. Tomando $f = \det(\boldsymbol{Y})$ y $g = \text{tr}(\boldsymbol{Y}^{-1} \boldsymbol{Y}')$ se obtiene lo siguiente.

\begin{equation}\dfrac{\partial^2 \det(\boldsymbol{Y})}{\partial x^2} = \dfrac{\partial \det(\boldsymbol{Y})}{\partial x} \text{tr}(\boldsymbol{Y}^{-1} \boldsymbol{Y}') + \det(\boldsymbol{Y}) \dfrac{\partial}{\partial x} \text{tr}(\boldsymbol{Y}^{-1} \boldsymbol{Y}')\label{eq:7-6-3}\end{equation}

Calculamos el primer término. Sustituyendo la fórmula de Jacobi de \eqref{eq:7-6-1} en $\dfrac{\partial \det(\boldsymbol{Y})}{\partial x}$ se obtiene lo siguiente.

\begin{equation}\dfrac{\partial \det(\boldsymbol{Y})}{\partial x} \text{tr}(\boldsymbol{Y}^{-1} \boldsymbol{Y}') = \det(\boldsymbol{Y}) \text{tr}(\boldsymbol{Y}^{-1} \boldsymbol{Y}') \cdot \text{tr}(\boldsymbol{Y}^{-1} \boldsymbol{Y}')\label{eq:7-6-4}\end{equation}

Al simplificar el primer término se obtiene lo siguiente.

\begin{equation}\det(\boldsymbol{Y}) \text{tr}(\boldsymbol{Y}^{-1} \boldsymbol{Y}')^2\label{eq:7-6-5}\end{equation}

Calculamos $\dfrac{\partial}{\partial x} \text{tr}(\boldsymbol{Y}^{-1} \boldsymbol{Y}')$ del segundo término. Como la traza y la derivada conmutan, derivamos primero el interior de la traza.

\begin{equation}\dfrac{\partial}{\partial x} \text{tr}(\boldsymbol{Y}^{-1} \boldsymbol{Y}') = \text{tr}\left( \dfrac{\partial}{\partial x} (\boldsymbol{Y}^{-1} \boldsymbol{Y}') \right)\label{eq:7-6-6}\end{equation}

Al aplicar la regla del producto (1.25) a la derivada del producto de matrices $\boldsymbol{Y}^{-1} \boldsymbol{Y}'$ se obtiene lo siguiente.

\begin{equation}\dfrac{\partial}{\partial x} (\boldsymbol{Y}^{-1} \boldsymbol{Y}') = \dfrac{\partial \boldsymbol{Y}^{-1}}{\partial x} \boldsymbol{Y}' + \boldsymbol{Y}^{-1} \dfrac{\partial \boldsymbol{Y}'}{\partial x}\label{eq:7-6-7}\end{equation}

Se tiene $\dfrac{\partial \boldsymbol{Y}'}{\partial x} = \boldsymbol{Y}''$.

Aplicamos la fórmula de la derivada escalar de la matriz inversa. Al derivar $\boldsymbol{Y}\boldsymbol{Y}^{-1} = \boldsymbol{I}$ respecto a $x$, se cumple lo siguiente.

\begin{equation}\boldsymbol{Y}' \boldsymbol{Y}^{-1} + \boldsymbol{Y} \dfrac{\partial \boldsymbol{Y}^{-1}}{\partial x} = \boldsymbol{O}\label{eq:7-6-8}\end{equation}

Al despejar $\dfrac{\partial \boldsymbol{Y}^{-1}}{\partial x}$ de \eqref{eq:7-6-8} se obtiene lo siguiente.

\begin{equation}\dfrac{\partial \boldsymbol{Y}^{-1}}{\partial x} = -\boldsymbol{Y}^{-1} \boldsymbol{Y}' \boldsymbol{Y}^{-1}\label{eq:7-6-9}\end{equation}

Sustituyendo \eqref{eq:7-6-9} en \eqref{eq:7-6-7} se obtiene lo siguiente.

\begin{equation}\dfrac{\partial}{\partial x} (\boldsymbol{Y}^{-1} \boldsymbol{Y}') = -\boldsymbol{Y}^{-1} \boldsymbol{Y}' \boldsymbol{Y}^{-1} \boldsymbol{Y}' + \boldsymbol{Y}^{-1} \boldsymbol{Y}''\label{eq:7-6-10}\end{equation}

Simplificamos el primer término. Como $\boldsymbol{Y}^{-1} \boldsymbol{Y}'$ aparece dos veces, puede escribirse como sigue.

\begin{equation}-\boldsymbol{Y}^{-1} \boldsymbol{Y}' \boldsymbol{Y}^{-1} \boldsymbol{Y}' = -(\boldsymbol{Y}^{-1} \boldsymbol{Y}')^2\label{eq:7-6-11}\end{equation}

Al tomar la traza en \eqref{eq:7-6-6} se obtiene lo siguiente.

\begin{equation}\dfrac{\partial}{\partial x} \text{tr}(\boldsymbol{Y}^{-1} \boldsymbol{Y}') = \text{tr}(-(\boldsymbol{Y}^{-1} \boldsymbol{Y}')^2 + \boldsymbol{Y}^{-1} \boldsymbol{Y}'')\label{eq:7-6-12}\end{equation}

Usando la linealidad de la traza para descomponer se obtiene lo siguiente.

\begin{equation}\dfrac{\partial}{\partial x} \text{tr}(\boldsymbol{Y}^{-1} \boldsymbol{Y}') = -\text{tr}((\boldsymbol{Y}^{-1} \boldsymbol{Y}')^2) + \text{tr}(\boldsymbol{Y}^{-1} \boldsymbol{Y}'')\label{eq:7-6-13}\end{equation}

Sustituyendo los resultados de \eqref{eq:7-6-5} y \eqref{eq:7-6-13} en \eqref{eq:7-6-3} se obtiene lo siguiente.

\begin{equation}\dfrac{\partial^2 \det(\boldsymbol{Y})}{\partial x^2} = \det(\boldsymbol{Y}) \text{tr}(\boldsymbol{Y}^{-1} \boldsymbol{Y}')^2 + \det(\boldsymbol{Y}) \left[ -\text{tr}((\boldsymbol{Y}^{-1} \boldsymbol{Y}')^2) + \text{tr}(\boldsymbol{Y}^{-1} \boldsymbol{Y}'') \right]\label{eq:7-6-14}\end{equation}

Sacando $\det(\boldsymbol{Y})$ como factor común obtenemos el resultado final.

\begin{equation}\dfrac{\partial^2 \det(\boldsymbol{Y})}{\partial x^2} = \det(\boldsymbol{Y}) \left[ \text{tr}(\boldsymbol{Y}^{-1} \boldsymbol{Y}'') + \text{tr}(\boldsymbol{Y}^{-1} \boldsymbol{Y}')^2 - \text{tr}((\boldsymbol{Y}^{-1} \boldsymbol{Y}')^2) \right]\label{eq:7-6-15}\end{equation}

Demostración

Por la propiedad del determinante respecto al producto (1.14), el determinante del producto de matrices cuadradas es igual al producto de los determinantes de cada matriz.

\begin{equation}|\boldsymbol{A}\boldsymbol{B}| = |\boldsymbol{A}||\boldsymbol{B}|\label{eq:7-7-1}\end{equation}

Aplicamos esta propiedad a $\boldsymbol{A}\boldsymbol{X}\boldsymbol{B}$. Considerándolo primero como $(\boldsymbol{A}\boldsymbol{X})\boldsymbol{B}$ se obtiene lo siguiente.

\begin{equation}|(\boldsymbol{A}\boldsymbol{X})\boldsymbol{B}| = |\boldsymbol{A}\boldsymbol{X}||\boldsymbol{B}|\label{eq:7-7-2}\end{equation}

Al aplicar la misma propiedad también a $|\boldsymbol{A}\boldsymbol{X}|$ se obtiene lo siguiente.

\begin{equation}|\boldsymbol{A}\boldsymbol{X}| = |\boldsymbol{A}||\boldsymbol{X}|\label{eq:7-7-3}\end{equation}

Combinando \eqref{eq:7-7-2} y \eqref{eq:7-7-3} se obtiene lo siguiente.

\begin{equation}|\boldsymbol{A}\boldsymbol{X}\boldsymbol{B}| = |\boldsymbol{A}||\boldsymbol{X}||\boldsymbol{B}|\label{eq:7-7-4}\end{equation}

Derivamos $|\boldsymbol{A}\boldsymbol{X}\boldsymbol{B}|$ respecto a $\boldsymbol{X}$. Como $|\boldsymbol{A}|$ y $|\boldsymbol{B}|$ son constantes que no dependen de $\boldsymbol{X}$, pueden salir fuera del operador de derivación.

\begin{equation}\dfrac{\partial}{\partial \boldsymbol{X}} |\boldsymbol{A}\boldsymbol{X}\boldsymbol{B}| = \dfrac{\partial}{\partial \boldsymbol{X}} (|\boldsymbol{A}||\boldsymbol{X}||\boldsymbol{B}|) = |\boldsymbol{A}||\boldsymbol{B}| \dfrac{\partial}{\partial \boldsymbol{X}} |\boldsymbol{X}|\label{eq:7-7-5}\end{equation}

Sustituyendo $\dfrac{\partial}{\partial \boldsymbol{X}} |\boldsymbol{X}| = |\boldsymbol{X}| \boldsymbol{X}^{-\top}$ según 7.1 se obtiene lo siguiente.

\begin{equation}\dfrac{\partial}{\partial \boldsymbol{X}} |\boldsymbol{A}\boldsymbol{X}\boldsymbol{B}| = |\boldsymbol{A}||\boldsymbol{B}| \cdot |\boldsymbol{X}| \boldsymbol{X}^{-\top}\label{eq:7-7-6}\end{equation}

Usando $|\boldsymbol{A}||\boldsymbol{B}||\boldsymbol{X}| = |\boldsymbol{A}\boldsymbol{X}\boldsymbol{B}|$ (por \eqref{eq:7-7-4}) y simplificando, obtenemos el resultado final.

\begin{equation}\dfrac{\partial}{\partial \boldsymbol{X}} |\boldsymbol{A}\boldsymbol{X}\boldsymbol{B}| = |\boldsymbol{A}\boldsymbol{X}\boldsymbol{B}| \boldsymbol{X}^{-\top}\label{eq:7-7-7}\end{equation}

Demostración

Usando la propiedad del determinante respecto al producto (1.14), descomponemos $|\boldsymbol{X}^\top \boldsymbol{A} \boldsymbol{X}|$.

\begin{equation}|\boldsymbol{X}^\top \boldsymbol{A} \boldsymbol{X}| = |\boldsymbol{X}^\top||\boldsymbol{A}||\boldsymbol{X}|\label{eq:7-8-1-1}\end{equation}

Por el determinante de la transpuesta (1.15) se tiene $|\boldsymbol{X}^\top| = |\boldsymbol{X}|$.

Por \eqref{eq:7-8-1-1} y esta propiedad se obtiene lo siguiente.

\begin{equation}|\boldsymbol{X}^\top \boldsymbol{A} \boldsymbol{X}| = |\boldsymbol{X}||\boldsymbol{A}||\boldsymbol{X}| = |\boldsymbol{A}||\boldsymbol{X}|^2\label{eq:7-8-1-2}\end{equation}

Derivamos respecto a $\boldsymbol{X}$. Como $|\boldsymbol{A}|$ es una constante, puede salir fuera del operador de derivación.

\begin{equation}\dfrac{\partial}{\partial \boldsymbol{X}} |\boldsymbol{X}^\top \boldsymbol{A} \boldsymbol{X}| = |\boldsymbol{A}| \dfrac{\partial}{\partial \boldsymbol{X}} |\boldsymbol{X}|^2\label{eq:7-8-1-3}\end{equation}

Por el caso $n = 2$ de 7.3, se cumple lo siguiente.

\begin{equation}\dfrac{\partial}{\partial \boldsymbol{X}} |\boldsymbol{X}|^2 = 2 |\boldsymbol{X}|^2 \boldsymbol{X}^{-\top}\label{eq:7-8-1-4}\end{equation}

Sustituyendo \eqref{eq:7-8-1-4} en \eqref{eq:7-8-1-3} se obtiene lo siguiente.

\begin{equation}\dfrac{\partial}{\partial \boldsymbol{X}} |\boldsymbol{X}^\top \boldsymbol{A} \boldsymbol{X}| = |\boldsymbol{A}| \cdot 2 |\boldsymbol{X}|^2 \boldsymbol{X}^{-\top}\label{eq:7-8-1-5}\end{equation}

Usando $|\boldsymbol{A}||\boldsymbol{X}|^2 = |\boldsymbol{X}^\top \boldsymbol{A} \boldsymbol{X}|$ (por \eqref{eq:7-8-1-2}) y simplificando, obtenemos el resultado final.

\begin{equation}\dfrac{\partial}{\partial \boldsymbol{X}} |\boldsymbol{X}^\top \boldsymbol{A} \boldsymbol{X}| = 2 |\boldsymbol{X}^\top \boldsymbol{A} \boldsymbol{X}| \boldsymbol{X}^{-\top}\label{eq:7-8-1-6}\end{equation}

Demostración

Tomamos $\boldsymbol{Y} = \boldsymbol{X}^\top \boldsymbol{A} \boldsymbol{X}$. $\boldsymbol{Y}$ es una matriz de $N \times N$. Como $\boldsymbol{X}$ tiene rango completo, $\boldsymbol{Y}$ es invertible (cuando $\boldsymbol{A}$ es definida positiva).

Usamos la fórmula de Jacobi de 7.4. Al derivar $|\boldsymbol{Y}|$ respecto a la componente $X_{ij}$ se obtiene lo siguiente.

\begin{equation}\dfrac{\partial |\boldsymbol{Y}|}{\partial X_{ij}} = |\boldsymbol{Y}| \text{tr}\left( \boldsymbol{Y}^{-1} \dfrac{\partial \boldsymbol{Y}}{\partial X_{ij}} \right)\label{eq:7-8-2-1}\end{equation}

Derivamos $\boldsymbol{Y} = \boldsymbol{X}^\top \boldsymbol{A} \boldsymbol{X}$ respecto a $X_{ij}$. Como en $\boldsymbol{Y}$ aparece $\boldsymbol{X}$ en dos lugares, en $\boldsymbol{X}^\top$ y en $\boldsymbol{X}$, aplicamos la regla del producto (1.25).

\begin{equation}\dfrac{\partial \boldsymbol{Y}}{\partial X_{ij}} = \dfrac{\partial (\boldsymbol{X}^\top)}{\partial X_{ij}} \boldsymbol{A} \boldsymbol{X} + \boldsymbol{X}^\top \boldsymbol{A} \dfrac{\partial \boldsymbol{X}}{\partial X_{ij}}\label{eq:7-8-2-2}\end{equation}

Calculamos $\dfrac{\partial \boldsymbol{X}}{\partial X_{ij}}$. Al derivar la componente $X_{kl}$ de $\boldsymbol{X}$ respecto a $X_{ij}$, vale 1 solo cuando $k = i$ y $l = j$, y 0 en caso contrario.

\begin{equation}\left( \dfrac{\partial \boldsymbol{X}}{\partial X_{ij}} \right)_{kl} = \delta_{ki} \delta_{lj}\label{eq:7-8-2-3}\end{equation}

Representamos este resultado en forma matricial. Usando los vectores de la base canónica $\boldsymbol{e}_i \in \mathbb{R}^M$ (con la componente $i$ igual a 1 únicamente) y $\boldsymbol{e}_j \in \mathbb{R}^N$ (con la componente $j$ igual a 1 únicamente), puede escribirse como sigue.

\begin{equation}\dfrac{\partial \boldsymbol{X}}{\partial X_{ij}} = \boldsymbol{e}_i \boldsymbol{e}_j^\top\label{eq:7-8-2-4}\end{equation}

Esta es una matriz de $M \times N$ en la que solo la componente $(i, j)$ es 1 y todas las demás son 0.

Calculamos $\dfrac{\partial (\boldsymbol{X}^\top)}{\partial X_{ij}}$. Al transponer, las filas y las columnas se intercambian, por lo que se obtiene lo siguiente.

\begin{equation}\dfrac{\partial (\boldsymbol{X}^\top)}{\partial X_{ij}} = \left( \dfrac{\partial \boldsymbol{X}}{\partial X_{ij}} \right)^\top = (\boldsymbol{e}_i \boldsymbol{e}_j^\top)^\top = \boldsymbol{e}_j \boldsymbol{e}_i^\top\label{eq:7-8-2-5}\end{equation}

Sustituyendo \eqref{eq:7-8-2-4} y \eqref{eq:7-8-2-5} en \eqref{eq:7-8-2-2} se obtiene lo siguiente.

\begin{equation}\dfrac{\partial \boldsymbol{Y}}{\partial X_{ij}} = \boldsymbol{e}_j \boldsymbol{e}_i^\top \boldsymbol{A} \boldsymbol{X} + \boldsymbol{X}^\top \boldsymbol{A} \boldsymbol{e}_i \boldsymbol{e}_j^\top\label{eq:7-8-2-6}\end{equation}

Usamos que $\boldsymbol{A}$ es simétrica. Por $\boldsymbol{A} = \boldsymbol{A}^\top$ se tiene $\boldsymbol{A} \boldsymbol{e}_i = \boldsymbol{A}^\top \boldsymbol{e}_i$.

Nótese que $\boldsymbol{e}_i^\top \boldsymbol{A} = (\boldsymbol{A}^\top \boldsymbol{e}_i)^\top = (\boldsymbol{A} \boldsymbol{e}_i)^\top$. $\boldsymbol{A} \boldsymbol{e}_i$ es el vector de la columna $i$ de $\boldsymbol{A}$.

Analizamos el primer término de \eqref{eq:7-8-2-6}. $\boldsymbol{e}_j \boldsymbol{e}_i^\top \boldsymbol{A} \boldsymbol{X}$ es una matriz de $N \times N$.

Sustituyendo en \eqref{eq:7-8-2-1} y calculando el interior de la traza se obtiene lo siguiente.

\begin{equation}\text{tr}\left( \boldsymbol{Y}^{-1} \dfrac{\partial \boldsymbol{Y}}{\partial X_{ij}} \right) = \text{tr}\left( \boldsymbol{Y}^{-1} \boldsymbol{e}_j \boldsymbol{e}_i^\top \boldsymbol{A} \boldsymbol{X} \right) + \text{tr}\left( \boldsymbol{Y}^{-1} \boldsymbol{X}^\top \boldsymbol{A} \boldsymbol{e}_i \boldsymbol{e}_j^\top \right)\label{eq:7-8-2-7}\end{equation}

Aplicando la propiedad cíclica de la traza $\text{tr}(\boldsymbol{P}\boldsymbol{Q}\boldsymbol{R}) = \text{tr}(\boldsymbol{R}\boldsymbol{P}\boldsymbol{Q})$ al primer término se obtiene lo siguiente.

\begin{equation}\text{tr}\left( \boldsymbol{Y}^{-1} \boldsymbol{e}_j \boldsymbol{e}_i^\top \boldsymbol{A} \boldsymbol{X} \right) = \text{tr}\left( \boldsymbol{e}_i^\top \boldsymbol{A} \boldsymbol{X} \boldsymbol{Y}^{-1} \boldsymbol{e}_j \right)\label{eq:7-8-2-8}\end{equation}

Como $\boldsymbol{e}_i^\top \boldsymbol{A} \boldsymbol{X} \boldsymbol{Y}^{-1} \boldsymbol{e}_j$ es un escalar de $1 \times 1$, la traza es igual al propio valor.

\begin{equation}\text{tr}\left( \boldsymbol{e}_i^\top \boldsymbol{A} \boldsymbol{X} \boldsymbol{Y}^{-1} \boldsymbol{e}_j \right) = \boldsymbol{e}_i^\top \boldsymbol{A} \boldsymbol{X} \boldsymbol{Y}^{-1} \boldsymbol{e}_j = (\boldsymbol{A} \boldsymbol{X} \boldsymbol{Y}^{-1})_{ij}\label{eq:7-8-2-9}\end{equation}

De forma análoga, aplicando la propiedad cíclica de la traza al segundo término se obtiene lo siguiente.

\begin{equation}\text{tr}\left( \boldsymbol{Y}^{-1} \boldsymbol{X}^\top \boldsymbol{A} \boldsymbol{e}_i \boldsymbol{e}_j^\top \right) = \text{tr}\left( \boldsymbol{e}_j^\top \boldsymbol{Y}^{-1} \boldsymbol{X}^\top \boldsymbol{A} \boldsymbol{e}_i \right)\label{eq:7-8-2-10}\end{equation}

Esto también es un escalar de $1 \times 1$, por lo que la traza es igual al propio valor.

\begin{equation}\text{tr}\left( \boldsymbol{e}_j^\top \boldsymbol{Y}^{-1} \boldsymbol{X}^\top \boldsymbol{A} \boldsymbol{e}_i \right) = (\boldsymbol{Y}^{-1} \boldsymbol{X}^\top \boldsymbol{A})_{ji} = ((\boldsymbol{A} \boldsymbol{X} \boldsymbol{Y}^{-\top}))_{ij}\label{eq:7-8-2-11}\end{equation}

Comprobamos que $\boldsymbol{Y}$ es simétrica. Por $\boldsymbol{A} = \boldsymbol{A}^\top$ se cumple lo siguiente.

\begin{equation}\boldsymbol{Y}^\top = (\boldsymbol{X}^\top \boldsymbol{A} \boldsymbol{X})^\top = \boldsymbol{X}^\top \boldsymbol{A}^\top (\boldsymbol{X}^\top)^\top = \boldsymbol{X}^\top \boldsymbol{A} \boldsymbol{X} = \boldsymbol{Y}\label{eq:7-8-2-12}\end{equation}

Como $\boldsymbol{Y}$ es simétrica, $\boldsymbol{Y}^{-1}$ también es simétrica. Por lo tanto $\boldsymbol{Y}^{-\top} = \boldsymbol{Y}^{-1}$.

Usando los resultados de \eqref{eq:7-8-2-9} y \eqref{eq:7-8-2-11} y simplificando \eqref{eq:7-8-2-7} se obtiene lo siguiente.

\begin{equation}\text{tr}\left( \boldsymbol{Y}^{-1} \dfrac{\partial \boldsymbol{Y}}{\partial X_{ij}} \right) = (\boldsymbol{A} \boldsymbol{X} \boldsymbol{Y}^{-1})_{ij} + (\boldsymbol{A} \boldsymbol{X} \boldsymbol{Y}^{-1})_{ij} = 2(\boldsymbol{A} \boldsymbol{X} \boldsymbol{Y}^{-1})_{ij}\label{eq:7-8-2-13}\end{equation}

Sustituyendo en \eqref{eq:7-8-2-1} obtenemos la derivada respecto a la componente $X_{ij}$.

\begin{equation}\dfrac{\partial |\boldsymbol{Y}|}{\partial X_{ij}} = |\boldsymbol{Y}| \cdot 2(\boldsymbol{A} \boldsymbol{X} \boldsymbol{Y}^{-1})_{ij} = 2|\boldsymbol{Y}| (\boldsymbol{A} \boldsymbol{X} \boldsymbol{Y}^{-1})_{ij}\label{eq:7-8-2-14}\end{equation}

En la convención del denominador, la componente $(i, j)$ del resultado corresponde a $\dfrac{\partial}{\partial X_{ij}}$. Por lo tanto, al escribirlo en forma matricial se obtiene lo siguiente.

\begin{equation}\dfrac{\partial |\boldsymbol{Y}|}{\partial \boldsymbol{X}} = 2|\boldsymbol{Y}| \boldsymbol{A} \boldsymbol{X} \boldsymbol{Y}^{-1}\label{eq:7-8-2-15}\end{equation}

Sustituyendo $\boldsymbol{Y} = \boldsymbol{X}^\top \boldsymbol{A} \boldsymbol{X}$ obtenemos el resultado final.

\begin{equation}\dfrac{\partial |\boldsymbol{X}^\top \boldsymbol{A} \boldsymbol{X}|}{\partial \boldsymbol{X}} = 2 |\boldsymbol{X}^\top \boldsymbol{A} \boldsymbol{X}| \boldsymbol{A} \boldsymbol{X} (\boldsymbol{X}^\top \boldsymbol{A} \boldsymbol{X})^{-1}\label{eq:7-8-2-16}\end{equation}

Demostración

Tomamos $\boldsymbol{Y} = \boldsymbol{X}^\top \boldsymbol{A} \boldsymbol{X}$. $\boldsymbol{Y}$ es una matriz de $N \times N$.

Al usar la fórmula de Jacobi de 7.4 se obtiene lo siguiente.

\begin{equation}\dfrac{\partial |\boldsymbol{Y}|}{\partial X_{ij}} = |\boldsymbol{Y}| \text{tr}\left( \boldsymbol{Y}^{-1} \dfrac{\partial \boldsymbol{Y}}{\partial X_{ij}} \right)\label{eq:7-8-3-1}\end{equation}

De forma análoga a 7.8.2, al derivar $\boldsymbol{Y}$ respecto a $X_{ij}$ se obtiene lo siguiente.

\begin{equation}\dfrac{\partial \boldsymbol{Y}}{\partial X_{ij}} = \boldsymbol{e}_j \boldsymbol{e}_i^\top \boldsymbol{A} \boldsymbol{X} + \boldsymbol{X}^\top \boldsymbol{A} \boldsymbol{e}_i \boldsymbol{e}_j^\top\label{eq:7-8-3-2}\end{equation}

Calculando el interior de la traza dividido en dos términos se obtiene lo siguiente.

\begin{equation}\text{tr}\left( \boldsymbol{Y}^{-1} \dfrac{\partial \boldsymbol{Y}}{\partial X_{ij}} \right) = \text{tr}\left( \boldsymbol{Y}^{-1} \boldsymbol{e}_j \boldsymbol{e}_i^\top \boldsymbol{A} \boldsymbol{X} \right) + \text{tr}\left( \boldsymbol{Y}^{-1} \boldsymbol{X}^\top \boldsymbol{A} \boldsymbol{e}_i \boldsymbol{e}_j^\top \right)\label{eq:7-8-3-3}\end{equation}

Calculamos el primer término. Usando la propiedad cíclica de la traza se obtiene lo siguiente.

\begin{equation}\text{tr}\left( \boldsymbol{Y}^{-1} \boldsymbol{e}_j \boldsymbol{e}_i^\top \boldsymbol{A} \boldsymbol{X} \right) = \text{tr}\left( \boldsymbol{e}_i^\top \boldsymbol{A} \boldsymbol{X} \boldsymbol{Y}^{-1} \boldsymbol{e}_j \right) = (\boldsymbol{A} \boldsymbol{X} \boldsymbol{Y}^{-1})_{ij}\label{eq:7-8-3-4}\end{equation}

Calculamos el segundo término. De forma análoga, usando la propiedad cíclica de la traza se obtiene lo siguiente.

\begin{equation}\text{tr}\left( \boldsymbol{Y}^{-1} \boldsymbol{X}^\top \boldsymbol{A} \boldsymbol{e}_i \boldsymbol{e}_j^\top \right) = \text{tr}\left( \boldsymbol{e}_j^\top \boldsymbol{Y}^{-1} \boldsymbol{X}^\top \boldsymbol{A} \boldsymbol{e}_i \right) = (\boldsymbol{Y}^{-1} \boldsymbol{X}^\top \boldsymbol{A})_{ji}\label{eq:7-8-3-5}\end{equation}

Transformamos el resultado de \eqref{eq:7-8-3-5}. $(\boldsymbol{Y}^{-1} \boldsymbol{X}^\top \boldsymbol{A})_{ji}$ es igual a la componente $(i, j)$ de la transpuesta de la matriz $\boldsymbol{Y}^{-1} \boldsymbol{X}^\top \boldsymbol{A}$.

\begin{equation}(\boldsymbol{Y}^{-1} \boldsymbol{X}^\top \boldsymbol{A})_{ji} = ((\boldsymbol{Y}^{-1} \boldsymbol{X}^\top \boldsymbol{A})^\top)_{ij} = (\boldsymbol{A}^\top \boldsymbol{X} \boldsymbol{Y}^{-\top})_{ij}\label{eq:7-8-3-6}\end{equation}

Cuando $\boldsymbol{A}$ es una matriz general, $\boldsymbol{Y} = \boldsymbol{X}^\top \boldsymbol{A} \boldsymbol{X}$ no es necesariamente simétrica. Por lo tanto $\boldsymbol{Y}^{-\top} \neq \boldsymbol{Y}^{-1}$.

Calculamos $\boldsymbol{Y}^\top = (\boldsymbol{X}^\top \boldsymbol{A} \boldsymbol{X})^\top = \boldsymbol{X}^\top \boldsymbol{A}^\top \boldsymbol{X}$. Esta es la forma en la que $\boldsymbol{A}$ se reemplaza por $\boldsymbol{A}^\top$.

Por lo tanto se cumple lo siguiente.

\begin{equation}\boldsymbol{Y}^{-\top} = (\boldsymbol{Y}^\top)^{-1} = (\boldsymbol{X}^\top \boldsymbol{A}^\top \boldsymbol{X})^{-1}\label{eq:7-8-3-7}\end{equation}

Combinando \eqref{eq:7-8-3-4} y \eqref{eq:7-8-3-6} se obtiene lo siguiente.

\begin{equation}\text{tr}\left( \boldsymbol{Y}^{-1} \dfrac{\partial \boldsymbol{Y}}{\partial X_{ij}} \right) = (\boldsymbol{A} \boldsymbol{X} \boldsymbol{Y}^{-1})_{ij} + (\boldsymbol{A}^\top \boldsymbol{X} \boldsymbol{Y}^{-\top})_{ij}\label{eq:7-8-3-8}\end{equation}

Sustituyendo \eqref{eq:7-8-3-7} se obtiene lo siguiente.

\begin{equation}\text{tr}\left( \boldsymbol{Y}^{-1} \dfrac{\partial \boldsymbol{Y}}{\partial X_{ij}} \right) = (\boldsymbol{A} \boldsymbol{X} (\boldsymbol{X}^\top \boldsymbol{A} \boldsymbol{X})^{-1})_{ij} + (\boldsymbol{A}^\top \boldsymbol{X} (\boldsymbol{X}^\top \boldsymbol{A}^\top \boldsymbol{X})^{-1})_{ij}\label{eq:7-8-3-9}\end{equation}

Sustituyendo en \eqref{eq:7-8-3-1} obtenemos la derivada respecto a la componente $X_{ij}$.

\begin{equation}\dfrac{\partial |\boldsymbol{Y}|}{\partial X_{ij}} = |\boldsymbol{Y}| \left[ (\boldsymbol{A} \boldsymbol{X} (\boldsymbol{X}^\top \boldsymbol{A} \boldsymbol{X})^{-1})_{ij} + (\boldsymbol{A}^\top \boldsymbol{X} (\boldsymbol{X}^\top \boldsymbol{A}^\top \boldsymbol{X})^{-1})_{ij} \right]\label{eq:7-8-3-10}\end{equation}

Agrupando en forma matricial en la convención del denominador se obtiene lo siguiente.

\begin{equation}\dfrac{\partial |\boldsymbol{Y}|}{\partial \boldsymbol{X}} = |\boldsymbol{Y}| \left( \boldsymbol{A} \boldsymbol{X} (\boldsymbol{X}^\top \boldsymbol{A} \boldsymbol{X})^{-1} + \boldsymbol{A}^\top \boldsymbol{X} (\boldsymbol{X}^\top \boldsymbol{A}^\top \boldsymbol{X})^{-1} \right)\label{eq:7-8-3-11}\end{equation}

Sustituyendo $\boldsymbol{Y} = \boldsymbol{X}^\top \boldsymbol{A} \boldsymbol{X}$ obtenemos el resultado final.

\begin{equation}\dfrac{\partial |\boldsymbol{X}^\top \boldsymbol{A} \boldsymbol{X}|}{\partial \boldsymbol{X}} = |\boldsymbol{X}^\top \boldsymbol{A} \boldsymbol{X}| \left( \boldsymbol{A} \boldsymbol{X} (\boldsymbol{X}^\top \boldsymbol{A} \boldsymbol{X})^{-1} + \boldsymbol{A}^\top \boldsymbol{X} (\boldsymbol{X}^\top \boldsymbol{A}^\top \boldsymbol{X})^{-1} \right)\label{eq:7-8-3-12}\end{equation}

Demostración

En 7.8.2 tomamos $\boldsymbol{A} = \boldsymbol{I}$ (la matriz identidad). Como $\boldsymbol{I}$ es simétrica, puede aplicarse la fórmula de 7.8.2.

Por 7.8.2 se cumple lo siguiente.

\begin{equation}\dfrac{\partial |\boldsymbol{X}^\top \boldsymbol{I} \boldsymbol{X}|}{\partial \boldsymbol{X}} = 2 |\boldsymbol{X}^\top \boldsymbol{I} \boldsymbol{X}| \boldsymbol{I} \boldsymbol{X} (\boldsymbol{X}^\top \boldsymbol{I} \boldsymbol{X})^{-1}\label{eq:7-9-1-1}\end{equation}

Sustituyendo $\boldsymbol{I} \boldsymbol{X} = \boldsymbol{X}$ y $\boldsymbol{X}^\top \boldsymbol{I} \boldsymbol{X} = \boldsymbol{X}^\top \boldsymbol{X}$ se obtiene lo siguiente.

\begin{equation}\dfrac{\partial |\boldsymbol{X}^\top \boldsymbol{X}|}{\partial \boldsymbol{X}} = 2 |\boldsymbol{X}^\top \boldsymbol{X}| \boldsymbol{X} (\boldsymbol{X}^\top \boldsymbol{X})^{-1}\label{eq:7-9-1-2}\end{equation}

Para derivar $\log |\boldsymbol{X}^\top \boldsymbol{X}|$ respecto a $\boldsymbol{X}$, aplicamos la regla de la cadena. La función exterior es $\log$ y la función interior es $|\boldsymbol{X}^\top \boldsymbol{X}|$.

Escribimos la regla de la cadena. Tomando $f(u) = \log(u)$ y $g(\boldsymbol{X}) = |\boldsymbol{X}^\top \boldsymbol{X}|$ se cumple lo siguiente.

\begin{equation}\dfrac{\partial \log |\boldsymbol{X}^\top \boldsymbol{X}|}{\partial \boldsymbol{X}} = \dfrac{1}{|\boldsymbol{X}^\top \boldsymbol{X}|} \dfrac{\partial |\boldsymbol{X}^\top \boldsymbol{X}|}{\partial \boldsymbol{X}}\label{eq:7-9-1-3}\end{equation}

Sustituyendo el resultado de \eqref{eq:7-9-1-2} en \eqref{eq:7-9-1-3} se obtiene lo siguiente.

\begin{equation}\dfrac{\partial \log |\boldsymbol{X}^\top \boldsymbol{X}|}{\partial \boldsymbol{X}} = \dfrac{1}{|\boldsymbol{X}^\top \boldsymbol{X}|} \cdot 2 |\boldsymbol{X}^\top \boldsymbol{X}| \boldsymbol{X} (\boldsymbol{X}^\top \boldsymbol{X})^{-1}\label{eq:7-9-1-4}\end{equation}

$\dfrac{1}{|\boldsymbol{X}^\top \boldsymbol{X}|}$ y $|\boldsymbol{X}^\top \boldsymbol{X}|$ se cancelan.

\begin{equation}\dfrac{\partial \log |\boldsymbol{X}^\top \boldsymbol{X}|}{\partial \boldsymbol{X}} = 2 \boldsymbol{X} (\boldsymbol{X}^\top \boldsymbol{X})^{-1}\label{eq:7-9-1-5}\end{equation}

Derivamos la relación con la pseudoinversa de Moore-Penrose. Cuando $\boldsymbol{X}$ tiene rango completo ($\text{rank}(\boldsymbol{X}) = N$), la inversa por la izquierda se define como sigue.

\begin{equation}\boldsymbol{X}^{+} = (\boldsymbol{X}^\top \boldsymbol{X})^{-1} \boldsymbol{X}^\top\label{eq:7-9-1-6}\end{equation}

Calculamos la transpuesta de $\boldsymbol{X}^{+}$. Como la transpuesta de un producto es $(\boldsymbol{P}\boldsymbol{Q})^\top = \boldsymbol{Q}^\top \boldsymbol{P}^\top$, se obtiene lo siguiente.

\begin{equation}(\boldsymbol{X}^{+})^\top = ((\boldsymbol{X}^\top \boldsymbol{X})^{-1} \boldsymbol{X}^\top)^\top = (\boldsymbol{X}^\top)^\top ((\boldsymbol{X}^\top \boldsymbol{X})^{-1})^\top\label{eq:7-9-1-7}\end{equation}

Se tiene $(\boldsymbol{X}^\top)^\top = \boldsymbol{X}$. Además, como $\boldsymbol{X}^\top \boldsymbol{X}$ es una matriz simétrica, su inversa también es simétrica. Por lo tanto $((\boldsymbol{X}^\top \boldsymbol{X})^{-1})^\top = (\boldsymbol{X}^\top \boldsymbol{X})^{-1}$.

Combinando \eqref{eq:7-9-1-7} con estas propiedades se obtiene lo siguiente.

\begin{equation}(\boldsymbol{X}^{+})^\top = \boldsymbol{X} (\boldsymbol{X}^\top \boldsymbol{X})^{-1}\label{eq:7-9-1-8}\end{equation}

Comparando \eqref{eq:7-9-1-5} y \eqref{eq:7-9-1-8} obtenemos el resultado final.

\begin{equation}\dfrac{\partial \log |\boldsymbol{X}^\top \boldsymbol{X}|}{\partial \boldsymbol{X}} = 2 \boldsymbol{X} (\boldsymbol{X}^\top \boldsymbol{X})^{-1} = 2 (\boldsymbol{X}^{+})^\top\label{eq:7-9-1-9}\end{equation}

Demostración

Derivamos la relación entre $|\boldsymbol{X}^\top \boldsymbol{X}|$ y $|\boldsymbol{X}^{+}|$. Calculamos el determinante de $\boldsymbol{X}^{+} = (\boldsymbol{X}^\top \boldsymbol{X})^{-1} \boldsymbol{X}^\top$.

Como $\boldsymbol{X}^{+}$ es una matriz de $N \times M$, en el caso $N \neq M$ no es una matriz cuadrada y el determinante ordinario no está definido. Por ello consideramos $(\boldsymbol{X}^{+})^\top \boldsymbol{X}^{+}$.

Por \eqref{eq:7-9-1-8} de 7.9.1 se tiene $(\boldsymbol{X}^{+})^\top = \boldsymbol{X} (\boldsymbol{X}^\top \boldsymbol{X})^{-1}$.

Al calcular $(\boldsymbol{X}^{+})^\top \boldsymbol{X}^{+}$ se obtiene lo siguiente.

\begin{equation}(\boldsymbol{X}^{+})^\top \boldsymbol{X}^{+} = \boldsymbol{X} (\boldsymbol{X}^\top \boldsymbol{X})^{-1} \cdot (\boldsymbol{X}^\top \boldsymbol{X})^{-1} \boldsymbol{X}^\top\label{eq:7-9-2-1}\end{equation}

Como $(\boldsymbol{X}^\top \boldsymbol{X})^{-1} \cdot (\boldsymbol{X}^\top \boldsymbol{X})^{-1} = ((\boldsymbol{X}^\top \boldsymbol{X})^{-1})^2 = (\boldsymbol{X}^\top \boldsymbol{X})^{-2}$, se obtiene lo siguiente.

\begin{equation}(\boldsymbol{X}^{+})^\top \boldsymbol{X}^{+} = \boldsymbol{X} (\boldsymbol{X}^\top \boldsymbol{X})^{-2} \boldsymbol{X}^\top\label{eq:7-9-2-2}\end{equation}

Por otra parte, al calcular $\boldsymbol{X}^{+} (\boldsymbol{X}^{+})^\top$ se obtiene lo siguiente.

\begin{equation}\boldsymbol{X}^{+} (\boldsymbol{X}^{+})^\top = (\boldsymbol{X}^\top \boldsymbol{X})^{-1} \boldsymbol{X}^\top \cdot \boldsymbol{X} (\boldsymbol{X}^\top \boldsymbol{X})^{-1}\label{eq:7-9-2-3}\end{equation}

Al simplificar la parte donde $\boldsymbol{X}^\top \boldsymbol{X}$ y $(\boldsymbol{X}^\top \boldsymbol{X})^{-1}$ son adyacentes se obtiene lo siguiente.

\begin{equation}\boldsymbol{X}^{+} (\boldsymbol{X}^{+})^\top = (\boldsymbol{X}^\top \boldsymbol{X})^{-1} \cdot \boldsymbol{X}^\top \boldsymbol{X} \cdot (\boldsymbol{X}^\top \boldsymbol{X})^{-1} = (\boldsymbol{X}^\top \boldsymbol{X})^{-1}\label{eq:7-9-2-4}\end{equation}

Tomamos el determinante de ambos lados de \eqref{eq:7-9-2-4}. $\boldsymbol{X}^{+} (\boldsymbol{X}^{+})^\top$ es una matriz cuadrada de $N \times N$.

\begin{equation}|\boldsymbol{X}^{+} (\boldsymbol{X}^{+})^\top| = |(\boldsymbol{X}^\top \boldsymbol{X})^{-1}|\label{eq:7-9-2-5}\end{equation}

El determinante de la inversa es el recíproco del determinante original. Es decir, $|(\boldsymbol{X}^\top \boldsymbol{X})^{-1}| = \dfrac{1}{|\boldsymbol{X}^\top \boldsymbol{X}|}$.

Al tomar el logaritmo de ambos lados se obtiene lo siguiente.

\begin{equation}\log |\boldsymbol{X}^{+} (\boldsymbol{X}^{+})^\top| = \log \dfrac{1}{|\boldsymbol{X}^\top \boldsymbol{X}|} = -\log |\boldsymbol{X}^\top \boldsymbol{X}|\label{eq:7-9-2-6}\end{equation}

Por lo tanto se cumple la siguiente relación.

\begin{equation}\log |\boldsymbol{X}^\top \boldsymbol{X}| = -\log |\boldsymbol{X}^{+} (\boldsymbol{X}^{+})^\top|\label{eq:7-9-2-7}\end{equation}

Consideramos la derivada respecto a $\boldsymbol{X}^{+}$. Al ver $\boldsymbol{X}^{+} (\boldsymbol{X}^{+})^\top$ como función de $\boldsymbol{X}^{+}$, esta tiene la misma forma $\boldsymbol{Y}^\top \boldsymbol{Y}$ ($\boldsymbol{Y} = (\boldsymbol{X}^{+})^\top$) que en 7.9.1.

Por 7.9.1 se tiene $\dfrac{\partial \log |\boldsymbol{Y}^\top \boldsymbol{Y}|}{\partial \boldsymbol{Y}} = 2 \boldsymbol{Y} (\boldsymbol{Y}^\top \boldsymbol{Y})^{-1}$.

Tomando $\boldsymbol{Y} = (\boldsymbol{X}^{+})^\top$, como $\boldsymbol{Y}^\top = \boldsymbol{X}^{+}$, se tiene $\boldsymbol{Y}^\top \boldsymbol{Y} = \boldsymbol{X}^{+} (\boldsymbol{X}^{+})^\top$.

Por \eqref{eq:7-9-2-7}, al aplicar la regla de la cadena se obtiene lo siguiente.

\begin{equation}\dfrac{\partial \log |\boldsymbol{X}^\top \boldsymbol{X}|}{\partial \boldsymbol{X}^{+}} = -\dfrac{\partial \log |\boldsymbol{X}^{+} (\boldsymbol{X}^{+})^\top|}{\partial \boldsymbol{X}^{+}}\label{eq:7-9-2-8}\end{equation}

Derivamos $\log |\boldsymbol{X}^{+} (\boldsymbol{X}^{+})^\top|$ respecto a $\boldsymbol{X}^{+}$. Por \eqref{eq:7-9-2-4} se tiene $\boldsymbol{X}^{+} (\boldsymbol{X}^{+})^\top = (\boldsymbol{X}^\top \boldsymbol{X})^{-1}$, y mediante un cálculo análogo a 7.2 se obtiene lo siguiente.

\begin{equation}\dfrac{\partial \log |\boldsymbol{X}^{+} (\boldsymbol{X}^{+})^\top|}{\partial \boldsymbol{X}^{+}} = 2 (\boldsymbol{X}^{+})^\top (\boldsymbol{X}^{+} (\boldsymbol{X}^{+})^\top)^{-1} = 2 (\boldsymbol{X}^{+})^\top (\boldsymbol{X}^\top \boldsymbol{X})\label{eq:7-9-2-9}\end{equation}

Sustituyendo $(\boldsymbol{X}^{+})^\top = \boldsymbol{X} (\boldsymbol{X}^\top \boldsymbol{X})^{-1}$ según \eqref{eq:7-9-1-8} de 7.9.1 se obtiene lo siguiente.

\begin{equation}2 (\boldsymbol{X}^{+})^\top (\boldsymbol{X}^\top \boldsymbol{X}) = 2 \boldsymbol{X} (\boldsymbol{X}^\top \boldsymbol{X})^{-1} (\boldsymbol{X}^\top \boldsymbol{X}) = 2 \boldsymbol{X}\label{eq:7-9-2-10}\end{equation}

Sustituyendo en \eqref{eq:7-9-2-8} se obtiene lo siguiente.

\begin{equation}\dfrac{\partial \log |\boldsymbol{X}^\top \boldsymbol{X}|}{\partial \boldsymbol{X}^{+}} = -2 \boldsymbol{X}\label{eq:7-9-2-11}\end{equation}

En la convención del denominador, el resultado tiene la misma forma que la variable respecto a la cual se deriva. Como $\boldsymbol{X}^{+}$ es de $N \times M$, el resultado también debe ser de $N \times M$. Como $\boldsymbol{X}$ es de $M \times N$, al transponer obtenemos el resultado final.

\begin{equation}\dfrac{\partial \log |\boldsymbol{X}^\top \boldsymbol{X}|}{\partial \boldsymbol{X}^{+}} = -2 \boldsymbol{X}^\top\label{eq:7-9-2-12}\end{equation}

Demostración

Distinguimos casos según el signo del determinante. Para una matriz invertible $\boldsymbol{X}$, se tiene $\det(\boldsymbol{X}) > 0$ o bien $\det(\boldsymbol{X}) < 0$ ($\det(\boldsymbol{X}) = 0$ contradice la invertibilidad).

Caso 1: $\det(\boldsymbol{X}) > 0$

Como $|\det(\boldsymbol{X})| = \det(\boldsymbol{X})$, se cumple lo siguiente.

\begin{equation}\log |\det(\boldsymbol{X})| = \log \det(\boldsymbol{X})\label{eq:7-10-1}\end{equation}

Por 7.2, la derivada de $\log \det(\boldsymbol{X})$ es la siguiente.

\begin{equation}\dfrac{\partial \log \det(\boldsymbol{X})}{\partial \boldsymbol{X}} = \boldsymbol{X}^{-\top}\label{eq:7-10-2}\end{equation}

Por lo tanto, cuando $\det(\boldsymbol{X}) > 0$ se cumple lo siguiente.

\begin{equation}\dfrac{\partial \log |\det(\boldsymbol{X})|}{\partial \boldsymbol{X}} = \boldsymbol{X}^{-\top}\label{eq:7-10-3}\end{equation}

Caso 2: $\det(\boldsymbol{X}) < 0$

Como $|\det(\boldsymbol{X})| = -\det(\boldsymbol{X})$, se cumple lo siguiente.

\begin{equation}\log |\det(\boldsymbol{X})| = \log(-\det(\boldsymbol{X}))\label{eq:7-10-4}\end{equation}

Derivamos $\log(-\det(\boldsymbol{X}))$ respecto a $\boldsymbol{X}$. Como es una función compuesta, aplicamos la regla de la cadena. La función exterior es $\log$ y la función interior es $-\det(\boldsymbol{X})$.

La derivada de la función exterior $f(u) = \log(u)$ es $f'(u) = \dfrac{1}{u}$. Sustituyendo $u = -\det(\boldsymbol{X})$ se obtiene lo siguiente.

\begin{equation}f'(-\det(\boldsymbol{X})) = \dfrac{1}{-\det(\boldsymbol{X})}\label{eq:7-10-5}\end{equation}

Calculamos la derivada de la función interior $g(\boldsymbol{X}) = -\det(\boldsymbol{X})$. Como por 7.1 se tiene $\dfrac{\partial \det(\boldsymbol{X})}{\partial \boldsymbol{X}} = \det(\boldsymbol{X}) \boldsymbol{X}^{-\top}$, se cumple lo siguiente.

\begin{equation}\dfrac{\partial (-\det(\boldsymbol{X}))}{\partial \boldsymbol{X}} = -\det(\boldsymbol{X}) \boldsymbol{X}^{-\top}\label{eq:7-10-6}\end{equation}

Aplicamos la regla de la cadena. Multiplicando \eqref{eq:7-10-5} y \eqref{eq:7-10-6} se obtiene lo siguiente.

\begin{equation}\dfrac{\partial \log(-\det(\boldsymbol{X}))}{\partial \boldsymbol{X}} = \dfrac{1}{-\det(\boldsymbol{X})} \cdot (-\det(\boldsymbol{X}) \boldsymbol{X}^{-\top})\label{eq:7-10-7}\end{equation}

$\dfrac{1}{-\det(\boldsymbol{X})}$ y $(-\det(\boldsymbol{X}))$ se cancelan, y se obtiene lo siguiente.

\begin{equation}\dfrac{\partial \log(-\det(\boldsymbol{X}))}{\partial \boldsymbol{X}} = \boldsymbol{X}^{-\top}\label{eq:7-10-8}\end{equation}

Por lo tanto, cuando $\det(\boldsymbol{X}) < 0$ también se cumple lo siguiente.

\begin{equation}\dfrac{\partial \log |\det(\boldsymbol{X})|}{\partial \boldsymbol{X}} = \boldsymbol{X}^{-\top}\label{eq:7-10-9}\end{equation}

Combinando \eqref{eq:7-10-3} y \eqref{eq:7-10-9}, si $\det(\boldsymbol{X}) \neq 0$ obtenemos siempre el mismo resultado, independientemente del signo del determinante.

\begin{equation}\dfrac{\partial \log |\det(\boldsymbol{X})|}{\partial \boldsymbol{X}} = \boldsymbol{X}^{-\top}\label{eq:7-10-10}\end{equation}

Demostración

Primero establecemos la identidad del determinante de Sylvester $\det(\boldsymbol{I}_N + \boldsymbol{P}\boldsymbol{Q}^\top) = \det(\boldsymbol{I}_k + \boldsymbol{Q}^\top \boldsymbol{P})$ (para $\boldsymbol{P}, \boldsymbol{Q} \in \mathbb{R}^{N \times k}$) a partir del determinante de una matriz por bloques. Consideramos la siguiente matriz por bloques.

\begin{equation}\boldsymbol{M} = \begin{pmatrix} \boldsymbol{I}_N & -\boldsymbol{P} \\ \boldsymbol{Q}^\top & \boldsymbol{I}_k \end{pmatrix}\label{eq:7-11-1}\end{equation}

Calculamos el determinante mediante el complemento de Schur respecto al bloque superior izquierdo $\boldsymbol{I}_N$. Aplicando la fórmula de la matriz por bloques $\det\begin{pmatrix}\boldsymbol{P}_{11} & \boldsymbol{P}_{12}\\ \boldsymbol{P}_{21} & \boldsymbol{P}_{22}\end{pmatrix} = \det(\boldsymbol{P}_{11})\,\det(\boldsymbol{P}_{22} - \boldsymbol{P}_{21}\boldsymbol{P}_{11}^{-1}\boldsymbol{P}_{12})$ obtenemos lo siguiente.

\begin{equation}\det(\boldsymbol{M}) = \det(\boldsymbol{I}_N)\,\det\!\left(\boldsymbol{I}_k - \boldsymbol{Q}^\top \boldsymbol{I}_N^{-1}(-\boldsymbol{P})\right) = \det(\boldsymbol{I}_k + \boldsymbol{Q}^\top \boldsymbol{P})\label{eq:7-11-2}\end{equation}

A continuación, calculamos mediante el complemento de Schur respecto al bloque inferior derecho $\boldsymbol{I}_k$.

\begin{equation}\det(\boldsymbol{M}) = \det(\boldsymbol{I}_k)\,\det\!\left(\boldsymbol{I}_N - (-\boldsymbol{P})\boldsymbol{I}_k^{-1}\boldsymbol{Q}^\top\right) = \det(\boldsymbol{I}_N + \boldsymbol{P}\boldsymbol{Q}^\top)\label{eq:7-11-3}\end{equation}

Como \eqref{eq:7-11-2} y \eqref{eq:7-11-3} representan el mismo $\det(\boldsymbol{M})$, se sigue la identidad de Sylvester.

\begin{equation}\det(\boldsymbol{I}_N + \boldsymbol{P}\boldsymbol{Q}^\top) = \det(\boldsymbol{I}_k + \boldsymbol{Q}^\top \boldsymbol{P})\label{eq:7-11-4}\end{equation}

Ahora derivamos el caso de una $\boldsymbol{A}$ invertible general factorizando $\boldsymbol{A}$.

\begin{equation}\boldsymbol{A} + \boldsymbol{U}\boldsymbol{V}^\top = \boldsymbol{A}\left(\boldsymbol{I}_N + \boldsymbol{A}^{-1}\boldsymbol{U}\boldsymbol{V}^\top\right)\label{eq:7-11-5}\end{equation}

Usando la propiedad multiplicativa de los determinantes (1.14), $\det(\boldsymbol{A}\boldsymbol{B}) = \det(\boldsymbol{A})\det(\boldsymbol{B})$.

\begin{equation}\det(\boldsymbol{A} + \boldsymbol{U}\boldsymbol{V}^\top) = \det(\boldsymbol{A})\,\det\!\left(\boldsymbol{I}_N + (\boldsymbol{A}^{-1}\boldsymbol{U})\boldsymbol{V}^\top\right)\label{eq:7-11-6}\end{equation}

Tomando $\boldsymbol{P} = \boldsymbol{A}^{-1}\boldsymbol{U}$ y $\boldsymbol{Q} = \boldsymbol{V}$ en \eqref{eq:7-11-4} se obtiene lo siguiente.

\begin{equation}\det\!\left(\boldsymbol{I}_N + (\boldsymbol{A}^{-1}\boldsymbol{U})\boldsymbol{V}^\top\right) = \det\!\left(\boldsymbol{I}_k + \boldsymbol{V}^\top \boldsymbol{A}^{-1}\boldsymbol{U}\right)\label{eq:7-11-7}\end{equation}

Sustituyendo en \eqref{eq:7-11-6} se obtiene el resultado final.

\begin{equation}\det(\boldsymbol{A} + \boldsymbol{U}\boldsymbol{V}^\top) = \det(\boldsymbol{A})\,\det\!\left(\boldsymbol{I}_k + \boldsymbol{V}^\top \boldsymbol{A}^{-1}\boldsymbol{U}\right)\label{eq:7-11-8}\end{equation}

Para una actualización de rango 1 ($k = 1$, $\boldsymbol{U} = \boldsymbol{u}$, $\boldsymbol{V} = \boldsymbol{v}$), el término $\boldsymbol{V}^\top \boldsymbol{A}^{-1}\boldsymbol{U}$ es un escalar, de modo que $\det(1 + \boldsymbol{v}^\top \boldsymbol{A}^{-1}\boldsymbol{u}) = 1 + \boldsymbol{v}^\top \boldsymbol{A}^{-1}\boldsymbol{u}$. Tomando el logaritmo de ambos lados de \eqref{eq:7-11-8} se obtiene la forma logarítmica.

Demostración

Recordamos la regla de cambio de variables de una densidad bajo una aplicación invertible. Cuando $\boldsymbol{z} = \boldsymbol{f}(\boldsymbol{x})$ es una biyección, la conservación de la probabilidad $p_{\boldsymbol{x}}(\boldsymbol{x})\,d\boldsymbol{x} = p_{\boldsymbol{z}}(\boldsymbol{z})\,d\boldsymbol{z}$ y la relación del elemento de volumen $d\boldsymbol{z} = |\det \boldsymbol{J}_{\boldsymbol{f}}(\boldsymbol{x})|\,d\boldsymbol{x}$ dan lo siguiente.

\begin{equation}p_{\boldsymbol{x}}(\boldsymbol{x}) = p_{\boldsymbol{z}}(\boldsymbol{f}(\boldsymbol{x}))\,\left|\det \boldsymbol{J}_{\boldsymbol{f}}(\boldsymbol{x})\right|\label{eq:7-12-1}\end{equation}

Tomando el logaritmo de ambos lados, el producto se convierte en una suma.

\begin{equation}\log p_{\boldsymbol{x}}(\boldsymbol{x}) = \log p_{\boldsymbol{z}}(\boldsymbol{f}(\boldsymbol{x})) + \log\left|\det \boldsymbol{J}_{\boldsymbol{f}}(\boldsymbol{x})\right|\label{eq:7-12-2}\end{equation}

Al derivar este término log-Jacobiano respecto a los parámetros de $\boldsymbol{f}$, la fórmula de la derivada de $\log|\det|$ (7.10), $\dfrac{\partial \log|\det \boldsymbol{X}|}{\partial \boldsymbol{X}} = \boldsymbol{X}^{-\top}$, es el bloque básico.

Calculamos el Jacobiano de la composición. Escribiendo las variables intermedias como $\boldsymbol{h}_0 = \boldsymbol{x}$ y $\boldsymbol{h}_l = \boldsymbol{f}_l(\boldsymbol{h}_{l-1})$, la regla de la cadena aplicada a $\boldsymbol{f} = \boldsymbol{f}_L \circ \cdots \circ \boldsymbol{f}_1$ hace que el Jacobiano sea un producto de los Jacobianos de cada capa.

\begin{equation}\boldsymbol{J}_{\boldsymbol{f}}(\boldsymbol{x}) = \boldsymbol{J}_{\boldsymbol{f}_L}(\boldsymbol{h}_{L-1}) \cdots \boldsymbol{J}_{\boldsymbol{f}_1}(\boldsymbol{h}_0)\label{eq:7-12-3}\end{equation}

Por la propiedad multiplicativa de los determinantes (1.14), el determinante de un producto es el producto de los determinantes.

\begin{equation}\det \boldsymbol{J}_{\boldsymbol{f}} = \displaystyle\prod_{l=1}^{L} \det \boldsymbol{J}_{\boldsymbol{f}_l}\label{eq:7-12-4}\end{equation}

Tomando el valor absoluto y el logaritmo, el producto se descompone en una suma.

\begin{equation}\log\left|\det \boldsymbol{J}_{\boldsymbol{f}}\right| = \displaystyle\sum_{l=1}^{L} \log\left|\det \boldsymbol{J}_{\boldsymbol{f}_l}\right|\label{eq:7-12-5}\end{equation}

Consideramos el caso en que el Jacobiano de cada capa es triangular. En las capas de acoplamiento (coupling) y las transformaciones autorregresivas, la $i$-ésima componente de salida se diseña para depender solo de las entradas con índice hasta (o desde) $i$, de modo que el Jacobiano $\boldsymbol{J}_{\boldsymbol{f}_l}$ resulta triangular. El determinante de una matriz triangular es el producto de sus elementos diagonales.

\begin{equation}\det \boldsymbol{J}_{\boldsymbol{f}_l} = \displaystyle\prod_{i=1}^{N} \left(\boldsymbol{J}_{\boldsymbol{f}_l}\right)_{ii}\label{eq:7-12-6}\end{equation}

Tomando el logaritmo del valor absoluto, un cálculo de determinante de $O(N^3)$ se reduce a una suma de $N$ términos logarítmicos diagonales.

\begin{equation}\log\left|\det \boldsymbol{J}_{\boldsymbol{f}_l}\right| = \displaystyle\sum_{i=1}^{N} \log\left|\left(\boldsymbol{J}_{\boldsymbol{f}_l}\right)_{ii}\right|\label{eq:7-12-7}\end{equation}

Demostración

Partimos de la primera derivada. Por la forma logarítmica de la fórmula de Jacobi (7.4), la derivada escalar del logaritmo del determinante es la siguiente.

\begin{equation}\dfrac{\partial \log\det(\boldsymbol{Y})}{\partial x} = \operatorname{tr}\!\left(\boldsymbol{Y}^{-1}\boldsymbol{Y}'\right)\label{eq:7-13-1}\end{equation}

Derivamos esto una vez más respecto a $x$. Por la linealidad de la traza (1.11), la derivación y la traza conmutan; aplicamos la regla del producto (1.25) al producto $\boldsymbol{Y}^{-1}\boldsymbol{Y}'$ dentro de la traza.

\begin{equation}\dfrac{\partial^2 \log\det(\boldsymbol{Y})}{\partial x^2} = \operatorname{tr}\!\left(\dfrac{d\boldsymbol{Y}^{-1}}{dx}\boldsymbol{Y}' + \boldsymbol{Y}^{-1}\boldsymbol{Y}''\right)\label{eq:7-13-2}\end{equation}

Sustituimos la derivada escalar de la inversa (8.1.0), $\dfrac{d\boldsymbol{Y}^{-1}}{dx} = -\boldsymbol{Y}^{-1}\boldsymbol{Y}'\boldsymbol{Y}^{-1}$.

\begin{equation}\dfrac{\partial^2 \log\det(\boldsymbol{Y})}{\partial x^2} = \operatorname{tr}\!\left(-\boldsymbol{Y}^{-1}\boldsymbol{Y}'\boldsymbol{Y}^{-1}\boldsymbol{Y}' + \boldsymbol{Y}^{-1}\boldsymbol{Y}''\right)\label{eq:7-13-3}\end{equation}

Separamos en dos términos por linealidad y agrupamos $\boldsymbol{Y}^{-1}\boldsymbol{Y}'\boldsymbol{Y}^{-1}\boldsymbol{Y}' = (\boldsymbol{Y}^{-1}\boldsymbol{Y}')^2$ para obtener el resultado final.

\begin{equation}\dfrac{\partial^2 \log\det(\boldsymbol{Y})}{\partial x^2} = \operatorname{tr}\!\left(\boldsymbol{Y}^{-1}\boldsymbol{Y}''\right) - \operatorname{tr}\!\left((\boldsymbol{Y}^{-1}\boldsymbol{Y}')^2\right)\label{eq:7-13-4}\end{equation}

A continuación, hallamos la forma Hessiana tratando la matriz $\boldsymbol{X}$ como variable directa. A lo largo de la recta $\boldsymbol{X} + t\boldsymbol{H}$ en la dirección $\boldsymbol{H}$, tenemos $\boldsymbol{Y}(t) = \boldsymbol{X} + t\boldsymbol{H}$, $\boldsymbol{Y}' = \boldsymbol{H}$ e $\boldsymbol{Y}'' = \boldsymbol{0}$. Sustituyendo en \eqref{eq:7-13-4} y tomando $t = 0$ obtenemos lo siguiente.

\begin{equation}D^2\log\det(\boldsymbol{X})[\boldsymbol{H}, \boldsymbol{H}] = -\operatorname{tr}\!\left((\boldsymbol{X}^{-1}\boldsymbol{H})^2\right)\label{eq:7-13-5}\end{equation}

Expresamos la Hessiana como un operador lineal. Al derivar el gradiente $\dfrac{\partial \log\det(\boldsymbol{X})}{\partial \boldsymbol{X}} = \boldsymbol{X}^{-\top}$ (7.2) se obtiene la aplicación lineal que envía una dirección $\boldsymbol{H}$ a lo siguiente.

\begin{equation}\boldsymbol{H} \longmapsto \dfrac{\partial}{\partial t}\Big|_{t=0}(\boldsymbol{X}+t\boldsymbol{H})^{-\top} = -\boldsymbol{X}^{-\top}\boldsymbol{H}^\top\boldsymbol{X}^{-\top}\label{eq:7-13-6}\end{equation}

En forma vectorizada, usando la matriz de conmutación (13.6) $\boldsymbol{K}$, esto es $-(\boldsymbol{X}^{-1}\otimes\boldsymbol{X}^{-\top})\boldsymbol{K}$.