Несмещенная оценка

Несмещенная оценка параметра

Точечная оценка ${\hat{\theta }}_n$ неизвестного параметра $\theta$ называется несмещенной, если ее математическое ожидание равно оцениваемому параметру:

$$E{\hat{\theta }}_n=\theta$$

Смысл несмещенности

Выполнение этого равенства означает отсутствие систематической ошибки. Это гарантирует, что в среднем оценка не завышает $(E\hat{\theta }>0)$ и не занижает $(E\hat{\theta }<0)$ истинное значение параметра $\theta$.

Смещённая оценка

Если оценка смещённая, то её смещение можно представить как

$$b(\theta )=E{\hat{\theta }}_n-\theta$$

Несмещенность выборочного среднего

Пусть имеется выборка $X=(X_1,X_2,\dots ,X_n)\sim {\mathcal{F}}_{\xi }(\theta )$, где неизвестный параметр $\theta$ равен математическому ожиданию элементов выборки: $\theta =E{X}_k$.
Если в качестве точечной оценки параметра $\theta$ взять выборочное среднее:

$${\hat{\theta }}_n=\bar{X}=\frac{1}{n}\sum _{k=1}^n{X}_k$$

То данная статистика всегда является несмещенной оценкой для математического ожидания.

Доказательство

$$E{\hat{\theta }}_n=E\left(\frac{1}{n}\sum _{k=1}^n{X}_k\right)=\frac{1}{n}E\left(\sum _{k=1}^n{X}_k\right)=\frac{1}{n}\sum _{k=1}^{n}E(X_k)=\frac{1}{n}\sum _{k=1}^n\theta =\theta$$