Информация Фишера

Материал из Википедии — свободной энциклопедии

В математической статистике и теории информации информа́цией Фи́шера называется дисперсия функции вклада выборки. Эта функция названа в честь описавшего её Рональда Фишера.

[править] Определение

Пусть $L(\theta,\;x_1,\dots,\,x_n)$ — функция правдоподобия для данной статистической модели. Тогда если определена функция

$I_n(\theta) = \mathbb{E}_\theta \left(\frac{\partial \ln L(\theta,\;x_1,\dots,\,x_n)}{\partial \theta}\right)^2$ ,

где $\mathbb{E}_\theta$ — математическое ожидание при данном $θ$ , то она называется информацией Фишера для данной статистической модели при $n$ независимых испытаниях. Поскольку математическое ожидание функции вклада выборки равно нулю, выписанная величина равна её дисперсии.

Если выборка состоит из одного элемента, то информация Фишера записывается так:

$I(\theta) = \mathbb{E}_\theta \left(\frac{\partial \ln L(\theta,\,x)}{\partial \theta}\right)^2$ .

Из того, что в случае независимости случайных величин дисперсия суммы равна сумме дисперсий, следует, что в случае $n$ независимых испытаний $I n (θ) = n I (θ)$ .

[править] Свойства

Из указанного выше свойства дисперсий следует, что в случае независимости случайных величин $\xi_1(\theta,\,x),\dots,\,\xi_n(\theta,\,x)$ (рассматриваемых в одной статистической модели) информация Фишера их суммы равна сумме информаций Фишера каждой из них.
Обозначим информацию Фишера для случайной величины $\xi(\theta,\,x)$ через $I ξ (θ)$ . Если $T (ξ)$ — статистика, для которой определена информация Фишера, то $I^{T(\xi)} \leqslant I^\xi$ .