\documentclass[10pt,a4paper]{article}
\usepackage[utf8x]{inputenc}
\usepackage{ucs}
\usepackage{amsmath}
\usepackage{amsfonts}
\usepackage{amssymb}
\author{Thomas Ricatte}
\begin{document}

\subsection*{Cas simple}

Supposons qu'on dispose d'un ensemble $N$ dans un espace de dimension $n$.\\
On considère une loi gaussienne multivariée de marice de covariance proportionelle à l'identité :

$$\Sigma = \lambda * I_n$$

On veut maximiser la log-vraissemblance des points qui s'écrit :

$$l(\lambda,\mu) \propto \frac{1}{2} N \log \det (\frac{1}{\lambda} I_n) - \frac{N}{2} Trace (\frac{1}{\lambda} * \hat{\Sigma})$$

Soit en posant $\alpha = \lambda^{-1}$ :

$$l(\lambda,\mu) \propto \frac{1}{2} N \log \det (\alpha I_n) - \frac{N}{2} Trace (\alpha * \hat{\Sigma})$$


La différentiation par rapport à  $\mu$ nous donne $\mu=\hat{\mu}$.\\
On différencie par rapport à $\alpha$ et on écrit l'égalité à 0 qui nous donne :
$$ 0 = \frac{N n}{2 \alpha} - \frac{N}{2} Trace(\hat{\Sigma}) $$

Soit :

$$ \lambda =  \frac{Trace(\hat{\Sigma})}{n} $$

Dans le cas d'une gaussienne multivariée de dimension 2 on obtient :

$$ \lambda =  \frac{Trace(\hat{\Sigma})}{2} $$

\subsection*{Modèle EM}

On considère à présent un modèle EM.\\
Pour un mélange de m gaussiennes, on note :
$$\Theta =(\lambda_1,\dots,\lambda_m)^T$$

avec les $\lambda_i$ les coefficients de proportionnalité à l'identité.

Pour chaque $i$, on note =

$$\hat{\Sigma}_i = \frac{1}{N} \frac{\sum_{k=1}^N \tau_k^i * (x_k-\mu_i)^T (x_k-\mu_i)}{\sum_{k=1}^N \tau_k^i}$$

Et on applique lors de la maximisation :

$$ \lambda =  \frac{Trace(\hat{\Sigma}_i)}{n} $$

\end{document}