Неравенство Рао-Крамера

Неравенство Рао-Крамера

Пусть имеется выборка $X=(X_1,X_2,\dots ,X_n)$ из распределения ${\mathcal{F}}_{\xi }(\theta )$, $\theta \in \Theta$, и семейство ${\mathcal{F}}_{\xi }(\theta )$ удовлетворяет условиям:

1. Существует носитель $C$ семейства ${\mathcal{F}}_{\xi }(\theta )$, для которого $\forall y\in C$ функция $\sqrt{f_{\theta }(y)}$ непрерывно дифференцируема по $\theta$ при всех $\theta \in \Theta$.
2. Информация Фишера $I(\theta )=E{\left(\frac{\partial }{\partial \theta }\ln f_{\theta }(X_k)\right)}^2$ существует, положительна и непрерывна при всех $\theta \in \Theta$.

Тогда для любой несмещённой оценки ${\hat{\theta }}_n\in K_0$, дисперсия которой ограничена на любом компакте области $\Theta$, справедливо

$$Var{\hat{\theta }}_n=E({\hat{\theta }}_n-\theta {)}^2\ge \frac{1}{nI(\theta )}.$$

Без доказательства.

Информация Фишера

Величину $I(\theta )=E{\left(\frac{\partial }{\partial \theta }\ln f_{\theta }(X_k)\right)}^2$ называют информацией Фишера.

Неравенство для смещённых оценок

В классе смещённых оценок со смещением $b(\theta )$ неравенство принимает вид

$$E({\hat{\theta }}_n-\theta {)}^2\ge \frac{(1+b^{\prime }(\theta ){)}^2}{nI(\theta )}+b^2(\theta ),Var{\hat{\theta }}_n\ge \frac{(1+b^{\prime }(\theta ){)}^2}{nI(\theta )}.$$

R-эффективность

Если найдётся оценка, обращающая неравенство в равенство, то она эффективна (R-эффективна).