Legge della varianza totale

Da Wikipedia, l'enciclopedia libera.

La legge della varianza totale è un teorema della teoria della probabilità, che afferma che se $X$ e $Y$ sono variabili casuali definite sul medesimo spazio di probabilità, e la varianza di $X$ è finita, allora:

$\ \textrm{var}(X)=\textrm{E}[\textrm{var}(X|Y)]+\textrm{var}(\textrm{E}[X|Y])$

Dal punto di vista della statistica più che della teoria della probabilità, il primo termine è detto componente non spiegata della varianza totale, e il secondo è la componente spiegata; tale suggestiva terminologia si ricollega all'analisi del modello lineare, e in particolare all'coefficiente di determinazione, o R².

Indice

1 Dimostrazione
2 Relazione con il modello lineare
3 Estensioni ai momenti di ordine superiore
4 Voci correlate

[modifica] Dimostrazione

La legge della varianza totale può essere immediatamente dimostrata sfruttando la legge delle aspettative iterate, come segue.

$\ \mbox{var}(X)=\mbox{E}[X^{2}]-(\mbox{E}[X])^{2}=$

$\ = \mbox{E}[\mbox{E}[X^{2}|Y]]-(\mbox{E}[E[X|Y]])^{2}=$

$\ = \mbox{E}[\mbox{var}(X|Y)] + \mbox{E}[(\mbox{E}[X|Y])^{2}] - (\mbox{E}[E[X|Y]])^{2} =$

$\ = \mbox{E}[\mbox{var}(X|Y)] + \mbox{var}(E[X|Y])$

[modifica] Relazione con il modello lineare

La legge della varianza totale presenta un'importante relazione con il modello di regressione lineare. Nel caso univariato, il modello lineare può essere enunciato come:

$\ \mbox{E}[X|Y] = \alpha + \beta Y$

Si ha in tal caso:

$\ \beta = \frac{\mbox{cov}(Y,X)}{\mbox{var}(Y)}$

Ma allora, la componente spiegata della varianza totale altro non è che:

$\ \mbox{var}(\mbox{E}[X|Y])=\beta^{2}\mbox{var}(Y)=\frac{\mbox{cov}^{2}(Y,X)}{\mbox{var}(Y)}$

così che il rapporto tra l'espressione sopra e $\ \mbox{var}(X)$ è il quadrato del coefficiente di correlazione tra $\ X$ e $\ Y$ :

$\ \frac{\mbox{var}(\mbox{E}[X|Y])}{\mbox{var}(X)}=\frac{\mbox{cov}^{2}(Y,X)}{\mbox{var}(Y)\mbox{var}(X)}=\mbox{corr}^{2}(X,Y)$

Tale grandezza corrisponde in effetti al coefficiente di determinazione R². È possibile ottenere un'analoga relazione nel caso multivariato.

[modifica] Estensioni ai momenti di ordine superiore

Esistono relazioni analoghe alla legge della varianza totale e alla legge delle aspettative iterate per i momenti centrali di ordine superiore. Ad esempio, con riferimento al momento centrale di ordine 3, si ha:

$\ \mu_{3}(X)= \mbox{E}[\mu_{3}(X|Y)]+\mu_{3}(\mbox{E}[X|Y])+3\mbox{cov}(\mbox{E}[X|Y],\mbox{var}(X|Y))$